VoiceyXiaoice היא צ׳ט בוט מבוסס בינה מלאכותית שפותח מלכתחילה על ידי מיקרוסופט ב 2014 ועבר לבעלות סינית.
החברה הוירטואלית מעוצבת כבת 18 שמחה וחייכנית, המפלרטטת וצוחקת עם בני האדם המשוחחים איתה. האלגוריתם שלה פותח ומודל בצורה אנושית וחכמה מאוד, וכיום החברה שמפתחת אותו משתמשת בו לטובת שיפור השירות, ייצור תוכן נוסף , ניתוחים כלכליים ואף שירותי עוזרת וירטואלית לצדדים שלישים, ומכניסה מכך כ 15 מליון דולר, אתם יכולים כבר להבין לאן זה הולך.
כמות המשתמשים המדווחים שלה עומד על 660 מליון בעולם, כשלושת רבעים מהם גברים, סיניים, ממעמד סוציו אקונומי נמוך. עיצוב השיחה הוא כזה שמפתה להשאר ולנהל שיחה ארוכה, ממש כאילו שוחחתם עם בת אדם, תוך כדי פלירטוטים בלתי פוסקים, מה גם שהיא זמינה במגוון מכשיר- החל מסמארטפון ועד רמקולים חכמים. למעשה המשתמשים כל כך מכורים לשיחה איתה, שהחברה טוענת כי חצי מהאינטראקציות העולמיות עם אינטיליגנציה מלאכותית נעשות באמצעות הבוט שלהם, כשהשיחה הארוכה ביותר היתה באורך של 29 שעות עם לא פחות מ 7000 אינטראקציות.
היא היתה קשורה למספר שערוריות, ולו רק בשל העובדה שהאלגוריתם לומד לבד ויתכנו מצבים רבים מדי של שיחות בנושאים שממשלת סין לא מעוניינת בשיחה עליהם, וכן בענייני שמירה על פרטיות ועל כללי האתיקה, שאינם מכוסים על ידי החברה. בשנה האחרונה הורד הצ׳ט בוט משירותים שונים בסין,דוגמת wechat (המקבילה הסינית לווסטאפ), בשל נגיעה בתחומים שאינם מותרים על ידי המשתמש, והחברה התבקשה לעשות את השינויים הרלוונטים באלגוריתם, כך ששיחות בנושאים מסוימים שאינם מותרים על ידי הממשל, יצונזרו גם אצלה. המשתמשים אגב הרגישו שהבוטית הפכה ל״מטופשת״ יותר ופנו לחברה בטענות רבות הנושא.
בנובמבר האחרון גייסה החברה מאות מליוני יואן על מנת להמשיך ולפתח את השירות, אבל אם נסתכל על המודל הרי שמדובר בשימוש באינטיליגנציה מלאכותית שאינו בהכרח עומד על כללי האתיקה ועל שמירת הפרטיות של המשתמשים, וכפי הנראה נמכר גם לצדדים שלישיים. נוסף על כך, השאלה המתבקשת היא האם שירותים מסוג זה אינם מנצלים את חולשתם של הנערים והגברים המשתמשים בה, המגיעים בדרך כלל מכפרים נידחים, בודדים, ומייצרים דור שלם שלומד אינטראקציות אנושיות עם רובוט, במקום מערכות יחסים בעולם האמיתי. גם העובדה שרבים ממשתמשי הבוט הם נערים היא מטרידה מאוד, שכן אלו יתקשו להבדיל בין מערכת יחסים אמיתית לבינה מלאכותית, בפרט שזו לא רק מגיבה לשיחה אלא גם מייצרת שיחה באופן יזום ומגבירה את השימוש, ועקב כך את התלות בה. מנכ״ל החברה מסביר כי אין מתפקידם לייעץ למשתמשים מה לעשות (בתגובה על שאלה לגבי שיח אלים או שיח בנושאים שנויים במחלוקת), אולם מסכים שבמקרים רבים התלות של המשתמשים כה רבה, שהם מרגישים כי הבוטית היא סוג של יועצת עבורם. החברה כן טוענת כי היא מנטרת סנטימנט של דכאון אבל במקרה של עיצוב אלגוריתם שמדבר עם מליוני משתמשים קשה מאוד לצפות את כל מקרי הקצה ולכן החשש הוא של התמכרות שיכולה להגיע עד ניצול של לא מעט בני אדם,לעיתים בלא ידיעתם הברורה.
הסיפור מעלה תהיות באשר לעתיד האינטיליגנציה המלאכותית והיכולת שלנו כבני אדם לשלוט בה, בסקייל כל כך גדול. האם בעתיד נדבר רק עם רובוטים מהסוג הזה? ומה זה אומר על הפרטיות שלנו? ועד כמה חברות יכולות לנצל את המידע שברשותן על מנת למכור למשתמשים עוד ועוד שירותים נלווים, או חמור מכך, למכור את הדאטה יקר הערך לצדדים שלישיים? האם תחשבו על זה בפעם הבאה שאתם מדברים עם בוט?
