שיחה מקריפה עם גוגל דופלקס ספוטיפיי, אפל ופנדורה נגד אר קלי האחראי על האינטרנט בגלצ

הלו, טיורינג? זה גוגל מדבר

נגן אודיו

בכנס המפתחים שלה I/O הכריזה גוגל על גוגל דופלקס. אנחנו מדברים על כך בפינה עם יובל פינטר, דוקטורנט לעיבוד שפה טבעית בג’ורג’יה טק, שהסביר בראיון מקדים:

מטרתה של תוכנת גוגל דופלקס לנהל שיחות טלפון עם משימה בסופן, כמו קביעת תור למספרה או בירור פרטים אודות שעות הפתיחה של מסעדה. הדוגמאות שגוגל שחררה עוררו את עניין התקשורת וקהילת המחקר בעיקר בשל הנופך האמיתי-מאוד שבחרה החברה לשוות לשיחות. במקום קול מתכתי עם דיקציה מוזרה ואינטונציה אקראית, גוגל נתנה לסוכן המלאכותי שלה קול אנושי מאוד, שמחקה התנהלות שיחה בין בני אדם על כל חוסר השלמות שבה: היסוסים, חזרות על התחלת המשפט, הרמת קול וניסוח מחדש של מידע שכבר ניתן. בדוגמאות שנבחרו, אין סיכוי שאנחנו כשומעים היינו מבינים שלא מדובר בבן אדם אמיתי על הקו אם לא היו אומרים לנו קודם. ניכר שגם הנציגים בצד השני בשיחה לא חושדים בכלום. שני יישומים אפשריים שהוצגו בהודעת החברה הם כאפליקציית עוזר אישי עבור בתי עסק שאין להם מערכת הזמנות מקוונת; וסריקה יזומה מצד החברה של בתי עסק על-מנת לבקש מהם למלא פרטים כמו שעות פתיחה שיהיו זמינים למשתמשי מנוע החיפוש.

מבחינה טכנית מדובר (לפי מה שהוצג) בהישג אינטגרטיבי מרשים. מחקרים בתחום ביצוע משימות נוטים להתמקד בהיבטים הסמנטיים של המשימה – איך לזהות שניתן לנו פרט מידע שחיפשנו, איזה פרט מידע ניתן (״יום שבת״ ו-״12 במאי״ זה אותו דבר, אז לא צריך לבקש שוב אם מה שקיבלנו לא היה בפורמט שציפינו לו), ואיזה מידע לא נצליח לקבל. התמקדות-יתר במטרה הסופית עלולה לגרום לאינטראקציות מאוד מוזרות עבור השומע, למשל, אם כל השאלות יישאלו באותו ניסוח בדיוק, או אי-קבלת תשובה תחזיר את המערכת למצב ההתחלתי וה״תסריט״ יתחיל מחדש. האתגר של דופלקס שאפתני יותר – לנתח את השיחה לא רק בהיבט המידע שעובר אלא גם את מה שנקרא ״פעולות דיאלוג״ (Dialogue Acts). מתי האדם השני לא שמעה אותי והיא מבקשת הבהרה? מתי היא רק מוודאת שהיא שמעה נכון מה שאמרתי ואני צריך לאשר? מתי היא נכנסת לי לדברים ואני צריך לעבור למוד הקשבה? שיחה היא משחק מורכב שכולנו יודעים לנהל ומחשב צריך ללמוד.

גוגל נתנה כמה פרטים טכניים בפוסט לגבי איך המערכת פותחה. בגדול, ברקע עומד מודל לימוד מכונה שאומן על (כנראה) הרבה מאוד הקלטות שיחה, (כנראה) של משתמשי גוגל ווייס, גוגל האנגאאוטס וכו׳. גוגל מדגישה בפוסט שהשיחות עברו אנונימיזציה, אלא שכאן רק מתחילות השאלות המשפטיות והאתיות שנוגעות למערכת הזאת. כמה דוגמאות מתוך ההררים שהצטברו בימים הספורים מאז ההכרזה הן: האם כל השיחות מוקלטות לצורך בקרה, ואם כן האם אין כאן עבירה על החוק במדינות מסוימות? (יש); האם יש פה אלמנט של הונאה כלפי הצד השני בשיחה? האם גוגל פתחה פתח לטכנולוגיה שאפשר להשתמש בה לאלף ואחד שימושים רעים, למשל כאוטומציה של הנדסה חברתית? ומה קורה כשגם המתקושר הוא מערכת אוטומטית?

חתול וג’ימייל בסלולרי quotecatalog.com (cc-by)

חוקרת האינטרנט זיינפ טופקצ’י מתחה ביקורת נוקבת על גוגל וההתחזות של דופלקס לבני אדם:

That the many in Google did not erupt in utter panic and disgust at the first suggestion of this… is incredible to me. What of Google's famed discussion boards? What are you all discussing if not this?!?! This is horrible and so obviously wrong. SO OBVIOUSLY WRONG. *headdesk*

— zeynep tufekci (@zeynep) May 9, 2018

As digital technologies become better at doing human things, the focus has to be on how to protect humans, how to delineate humans and machines, and how to create reliable signals of each—see 2016. This is straight up, delilberate deception. Not okay. https://t.co/XTUn4tvDik

— zeynep tufekci (@zeynep) May 9, 2018

Anyway, back to typing out all the (obvious!!! it's 2018!!!) points on why this is such a bad idea at so many levels. Still flabbergasted that basic dynamics of deploying stuff like that at scale just isn't thought through… IT IS 2018.

— zeynep tufekci (@zeynep) May 11, 2018

"It's just a demo" people aren't getting the full scale of problems. Also Google putting a bot identifier at the beginning of call doesn't solve the many problems.
https://t.co/FEDX0R2v8J

— zeynep tufekci (@zeynep) May 11, 2018

מן הארכיב: עוד שיחה עם יובל פינטר על שפה וטכנולוגיה

ספוטיפיי, אפל ופנדורה יפסיקו לקדם שירים של זמר האר-אנד-בי אר קלי ברשימות השמעה ערוכות ואלגוריתמיות, אך לא יסירו את שיריו משירותי המוזיקה שלהן. זאת בעקבות טענות מרובות נגדו על עבירות מין, שהוא מכחיש, וקמפיין #MuteRKelly (#השתיקו את אר. קלי) שמתנהל ברשת בחודשים האחרונים.

ספוטיפיי, הראשונה להכריז על החרם, הודיעה כי “אנחנו לא מצנזרים תכנים בגלל התנהגות של אמן או יוצר, אבל אנחנו רוצים שההחלטות המערכתיות שלנו – מה שאנחנו בוחרים להציג – ישקפו את ערכינו. כשאמן או יותר עושה משהו פוגעני או שנאתי במיוחד, זה עלול להשפיע על הדרכים שבהן אנחנו עובדים עם, או תומכים ב, אמן או היוצר הזה”. פנדורה הודיעה כי “מדיניות פנדורה היא לא לקדם אקטיבית אמנים עם סוגיות מוכחות מסויימות בהיבט של התנהלות, אתיקה ופליליות. אנחנו מתייחסים לכל תסריט כזה לגופו, כדי להבטיח שאנחנו מטפלים בכך בהתאם לעקרונות של פנדורה, מבלי לעבור את הגבול ותוך הימנעות מצנזורה”.

מההנהלה של קלי נמסר בתגובה ארוכה כי “אנחנו מעריכים את ההחלטה של ספוטיפיי להמשיך ולאפשר למיליוני אנשים גישה לשיריו של אר. קלי […] אר. קלי מעולם לא הואשם שנה, ומילות השירים שהוא כותב מבטאות אהבה ותשוקה. במשך 30 שנה, מר קלי שר על אהבתו ותשוקתו לנשים. הוא חף מפשע מההאשמות השקריות והפוגעניות בקמפיין ההשמצה המתמשך נגדו, שהוכרז על ידי אוייבים שמחפשים להרוויח מכך. הוא מעולם לא הורשע בפשע, ולא עומד נגדו כל אישום פלילי”.

things that make you go hmmm pic.twitter.com/FEcLjZq16t

— Ran Bar-Zik (@barzik) May 11, 2018

הרחבה: אר קלי, ביל קוסבי ולואי סי.קיי מוחרמים מרשימות ההשמעה של ספוטיפיי

מן הארכיב: אחרי הפגנת האלט-רייט בשרלוטסוויל, ספוטיפיי ודיזר הסירו שירי עליונות לבנה וגזענות, וגוגל הודיע שתסיר שירים כאלו מגוגל מיוזיק ויוטיוב

חדשות הכסף: אפל וגולדמן סאקס ישיקו כרטיס אשראי משותף, ובפייסבוק חושבים על יצירת קריפטומטבע משלהם, שיאפשר למשתמשי הרשת החברתית לבצע באמצעותו תשלומים אלקטרוניים, לפי דיווח של אתר צ’דר. חברת הריגול האזרחי הקימה צוות בלוקצ’יין קטן בראשות דייויד מרקוס, סגן נשיא לאפליקציית מסנג’ר ולשעבר נשיא פייפאל, ועם שני סגני נשיא מאינסטגרם, שמטרתו “להתחיל מאפס ולבחון איך למנף את הבלוקצ’יין בכל רחבי פייסבוק”.

לשכת החקירות הפדרלית (FBI) הסתערה על ביתו של ראכם בלוגאן, פעיל למען זכויות שחורים נושאי נשק ונגד אלימות משטרתית, ועצרה אותו לחמישה חודשים. ה-FBI ציינו כי בלוגאן כתב בפייסבוק על חשוד ברצח שוטר שהוא “גיבור”, ועל שוטרים בטקסס שנרצחו כי “מגיע להם מה שקיבלו”. אולם ב-FBI הודו כי אין להם ראיות שבלוגאן השמיע איומים ספציפיים לגבי פגיעה בשוטרים.

בית משפט השלום בנצרת הרשיע בשבוע שעבר את המשוררת דארין טאטור בהסתה לאלימות ובתמיכה בארגון טרור, בהתבסס על פרסומים שלה בפייסבוק, ובהם השיר “התקומם, עמי, התקומם נגדם“.

רשות התקשורת הפדרלית האמריקאית (FCC) קנסה את אדריאן אברמוביץ’ ממיאמי, שהספים ברובושיחות (הודעות טלמרקטינג מוקלטות) למכירת יחידות נופש וחבילות נופש, ב-120 מיליון דולר (פדף)