ענקיות הטק מודיעות על מדיניות פנים חדשה 😶 האחראי על האינטרנט בגלצ 13.6.2020

הקליקו לארכיון האחראי על האינטרנט

🎧 להאזנה לפינה 🔊

כל הנשים אותו דבר. לכולן קוראים ציפי

לאחרונה החליטו במיקרוסופט לפטר עשרות עיתונאים – 50 בארה”ב ו-27 בבריטניה, ולהחליפם בתובנה-מלאכותית. מיקרוסופט לא מחזיקים מערכת חדשות משל עצמם, אלא אוצרים ומציגים חדשות ממגוון אתרי חדשות שותפים בעמוד הפתיחה של דפדפן אדג’, שמיקרוסופט מנסים לשזרק למשתמשי חלונות, ושל אתר MSN, שעדיין קיים. התובנה אמורה לערוך את העמודים הללו, והוכיחה את עצמה כמכרה זהב סאטירי.

גירסה נסיונית של התובנה, אשר הוכנסה לפעולה, בחרה לאחרונה כתבה שבה ג’ייד ת’ירלוול, חברת הלהקה הבריטית ליטל מיקס, חלקה מחשבות על גזענות שחוותה כאישה ממוצא מעורב מצרי-תימני. התובנה שיבצה את הכתבה, וליוותה אותה בתמונה של חברת הלהקה לי אן-פינוק

ת’ירלוול השחירה באינסטגרם שלה:

@MSN אם אתם הולכים להעתביק כתבות מכלי תקשורת אחרים, אולי תרצו לוודא שאתם משתמשים בתמונה של החברה ממוצא-מעורב הנכונה של הלהקה. החרא הזה הזה קורה ל-@leighannepinnock [לי אן-פינוק] ולי *כל הזמן* כך שזה הפך לבדיחה חוזרת. זה פוגע בי שלא יכולתם להבדיל בין שתי נשים-מקהילות-צבע [women of color] מתוך ארבע חברות להקה … *תשתפרו*

ג’ייד ת’ירלוול מגיבה על הפאשלה של הבוט של MSN

בינות מלאכותיות ידועות כסובלות מהטייה שמקשה עליהן לזהות נשים וכן אנשים עם צבע עור כהה, בין השאר בגלל שהן מאומנות על מאגרי נתונים שמכילים רוב של גברים לבנים, ונכתבות ומנוהלות על ידי אוכלוסיות הומוגניות שלא מבחינות בכשל הזה.

בתגובה לפרסום בגרדיאן, מיקרוסופט התעלמו משאלות על על הכשל המובנה בתובנה ועל ההחלטה להפעיל אותה כשהיא לא מוכנה לעולם האמיתי, והסתפקו בתגובה על המקרה הספציפי: “ברגע שנודע לנו על הסוגיה, פעלנו מיד לפתור אותה והחלפנו את התמונה השגויה”. בתגובה מעודכנת לוורג’ הם טענו שלא מדובר בהטייה אלגוריתמית אלא בפיצ’ר נסיוני במערכת האוטומטית: “אף שהסרת הטייה ושיפור דיוק ממשיכים להיות נושאים חשובים במחקר בינה מלאכותית, הטעות הזאת לא נבעה מסוגיות אלו. בבדיקת יישום חדש לבחירת תמונה חלופית, במקום לחזור לתמונה המקורית, תמונה מעמוד הכתבה המקורית צומדה לכותרת הכתבה. זה גרם למראית עין שגויה שהכותרת היתה כיתוב לתמונה [השגויה]”. כפי שהעירו בוורג’, זה בדיוק מסוג הטעויות שעורכים אמורים לזהות ולנכש.

במה שנראה כמו בדיחה שכותבת את עצמה על ידי בינה מלאכותית, התובנה שיבצה ב-MSN כתבות ביקורתיות על התקרית הזאת, ואנשי עמוד החדשות שנותרו ב-MSN נאלצו למחוק אותן. הבוסים התריעו בפניהם כי צפויה כתבה שלילית על הטייה גזענית לכאורה בתובנה בגרדיאן, אחד משותפי התוכן של MSN, וכי עליהם למחוק אותה – משום שאין להם אפשרות למנוע מראש את בחירת הכתבה על ידי התובנה. עוד הוזהרו אנשי MSN כי גם אם ימחקו את הכתבה, התובנה עלולה לפסול את ההחלטה שלהם ולנסות לפרסם שוב את הכתבה.

[עוד בנושא: רוב מערכות זיהוי הפנים שוגות בזיהוי גברים לא-לבנים ונשים]

מדיניות פנים

כתבה שמכילה התייחסות לסיפור על ת’ירלוול והצליחה לעבור את הסינון של MSN מספרת על ההחלטה הדרמטית של IBM להפסיק פיתוח ומכירת תוכנות ושירותים לזיהוי פנים למשטרה. ההחלטה מגיעה לאור המחאה נגד הגזענות המשטרתית בעקבות רציחתו של ג’ורג’ פלויד על ידי שוטר. מנכ”ל יבמ, ארווינד קרישנה, הודיע זאת במכתב לבית הנבחרים האמריקאי:

הטכנולוגיה צריכה להגביר שקיפות ולסייע למשטרה להגן על קהילות, אבל אסור שתקדם אפליה או חוסר צדק גזעי. יבמ לא מציעה יותר תוכנות יבמ לזיהוי וניתוח פנים לשימוש כללי. יבמ מתנגדת בתוקף ולא תתיר שימוש בכל טכנולוגיה, כולל טכנולוגיות זיהוי פנים של ספקים אחרים, למעקב המוני, פירפול גזעי, [ו]הפרת זכויות אדם וחירויות בסיסיות. […] אנחנו מאמינים שעכשיו הזמן להתחיל דיאלוג לאומי על אם ואיך טכנולוגיות זיהוי פנים צריכות לשמש רשויות אכיפת חוק פנימיות.

שתי ענקיות טכנומידע נוספות הודיעו על הפסקת אספקת שירותי זיהוי פנים למשטרה. אמזון הודיעו על הפסקת אספקת שירות זיהוי הפנים Rekognition למשטרה למשך שנה, וציינו כי “אנחנו מקווים שהתדחית בת השנה הזאת תתן לקונגרס די זמן ליישם חוקים מתאימים, ואנחנו כאן לעזור אם נתבקש”.

במיקרוסופט, החברה מתקרית התמונה השגויה, קראו כבר לפני שנתיים לאסדרת התחום, משום שהתעשייה לא יכולה לאסדר את עצמה (זאת בעקבות מחאה של עובדי החברה נגד אספקת טכנולוגיות לצבא, שלא הביאה לשינוי במדיניות). עכשיו הודיע נשיא החברה, בראד סמית’, שהחברה לא מספקת זיהוי פנים למשטרה בארה”ב, והתחייב כי “לא נמכור טכנולוגיות זיהוי פנים למשטרות בארה”ב עד שיהיה לנו חוק לאומי, מבוסס זכויות אדם, שישלוט בטכנולוגיה הזאת”.

דונלד טראמפ, נשיא ארה”ב (כך לטענתו), לא מרוצה מההחלטה. הוא ריצווץ ציוץ של ריצ’רד גרנל, לשעבר המנהל בפועל של המודיעין הלאומי, שצייץ כי מיקרוסופט “צריכים להיחסם ממכרזי ממשלה פדרליים – צריכות להיות השלכות לאי-מכירת טכנולוגיה למשטרות”.

זה לא אומר שאפשר להסיר את המסכה ולנשום לרווחה: החרם של יבמ, מיקרוסופט ואמזון מוגבל ונוגע רק למשטרה בארה”ב, לא למשטרות במדינות אחרות, ולא לגופים אחרים שעוסקים בריגול ומעקב; וכפי שהוול סטריט ג’ורנל כתבו (📂), יש חברות נוספות שימשיכו לספק טכנולוגיות זיהוי פנים למשטרה בארה”ב – NEC, קלירוויו AI, הרטה סקיורטי, Ayonix ו-iOmniscient.

[עוד בנושא: טכנולוגיות להסתרת פנים של מפגינים]

חומת האש הגדולה של זום

מפעילי יישומון שיחות-הווידאו האמריקאי הפופולרי זום השעו חשבונות זום שערכו מפגשי-וידאו לציון יום השנה לטבח בכיכר טיאננמן. באחד מהמפגשים השתתפו כ-250 איש, ודיברו בו השאר אמהות של סטודנטים שנרצחו בטבח ומארגני מחאת הדלקת נרות בהונג קונג. החשבונות שהושעו מקושרים לאנשי ארגון Humanitarian China, שמורכב מפעילים סינים אשר מתגוררים בארה”ב.

בחברה הודו שקיבלו הוראה מהממשל הסיני, שדיווח להם על ארבעה מפגשים כאלו. בשלושה מהמפגשים הם זיהו משתתפים שנמצאים בסין, לפי כתובת IP. מאחר שאין להם כרגע דרך לסלק משתמשים ספציפיים מפגישה, או למנוע ממשתתפים ממדינה מסויימת להצטרף לפגישה מסויימת, הם קטעו את שלושת המפגשים והשעו או סגרו חשבונות שמקושרים אליהם. אחרי חשיפת הסיפור הם החזירו לפעילות את חשבונות הפעילים המתגוררים בארה”ב ובהונג קונג (זום הקפידו לכתוב Hong Kong SAR – “הונג קונג האזור המנהלי המיוחד”, כדי לא לעצבן את הסינים).

זום הודיעו שהם מפתחים פיצ’ר שיאפשר להם לחסום משתמשים לפי מיקום. כלומר, הם ימשיכו לציית לחוק הסיני ויחסמו משתמשים שעוברים עליו, אבל רק כאלו שנמצאים פיזית בסין.

חלק גדול מהפיתוח של זום מתבצע בסין, וחלק מהשיחות בזום נותבו בטעות דרך שרתים סיניים. בחודש שעבר הודיעו זום שיפסיקו לספק חשבונות חינמיים למשתמשים בסין בגלל “דרישות אסדרתיות”, ומשמעות הדבר היא שכל משתמשי זום בסין מזוהים לפי פרטי כרטיסי האשראי שלהם.

טנקים בכיכר טיאננמן 🖼️ Jason Pearce, cc-by-nc-sa
טנקים בכיכר טיאננמן 🖼️ Jason Pearce, cc-by-nc-sa

ומצד שני, טוויטר הודיעו שסגרו יותר מ-170 אלף פרופילי תעמולה פרו-סינית, שהופעלו על ידי הממשל הסיני. 23,750 מהפרופילים היו פעילים במיוחד ובליבת התעמולה, וכ-150 אלף הנותרים היו חשבונות שהדהדו והעצימו את התכנים של פרופילי הליבה. פעילות התעמולה התמקדה במסרים על הונג קונג, ונגעה גם בווירוס הקורונה, בטייוואן ובמיליארדר הסיני הגולה ומתנגד המשטר גואו וון גואי. רשמית זה לא אמור לשנות לסין, שחסמו את השימוש בטוויטר במדינה.

בנוסף, טוויטר סגרו 7340 פרופילי תעמולה של טורקיה ו-1,152 של רוסיה. פרופיל התעמולה של טראמפ, שלפי ערוץ ההיסטוריה הוא נשיא ארה”ב, נותר על כנו בטוויטר, כמו גם בפייסבוק, שמסנני התכנים בסניף שלהם באירלנד הצטרפו למחאה (📂) להסרת הפוסטים המסיתים ומעודדי האלימות שלו.

הספרייה סגורה

ספריית השאלה מקוונת עם למעלה מ-1.3 מיליון כותרים הפסיקה את פעילות ההשכרה הבלתי מוגבלת שלה בעקבות תביעה של הוצאות ספרים גדולות.

הספרייה הופעלה על ידי ארכיון האינטרנט (Internet Archive), מלכ”ר שמשמר עותקים של תכנים מקוונים ואקסווביים. בתחילה היא פעלה במודל שהגביל את מספר העותקים הדיגיטליים המושכרים למספרם של העותקים הפיזיים שבידי הספרייה. אולם בסוף מרץ, בעקבות מגיפת הקורונה, החליטו בארכיון האינטרנט להפוך את הספרייה ל”ספריית חירום לאומית“, להסיר את ההגבלות ולהשאיל ספרים בלי הגבלה – מבלי לקבל את רשות בעלי הזכויות – הסופרים והוצאות הספרים – ומבלי לשלם להם.

ההחלטה הזאת הכעיסה חלק מבעלי הזכויות. בתחילת השבוע הגישו ההוצאות פינגווין ראנדום האוס, הרפרקולינז והאצ’ט אנד וויילי את התביעה בבית משפט פדרלי במנהטן, בטענה ל”הפרת זכויות יוצרים המונית מודעת”.

מייסד ארכיון האינטרנט, ברוסטר קייל, אמר לניו יורק טיימס:

כספרייה, ארכיון האינטרנט רוכש ספרים ומשאיל אותם, כפי שספריות תמיד עשו. הדבר תומך במו”לות וסופרים וקוראים. מו”לים שתובעים ספריות על השאלת ספרים, ובמקרה הזה גירסאות דיגיטליות מוגנות, בזמן שבתי ספר וספריות סגורים, לא משרת אינטרס של איש.

בפוסט בבלוג הארכיון, קייל הודיע על הקדמת סגירת הפעילות בשבועיים בגלל התביעה, וחזרה למודל הקודם של השאלה מוגבלת בזמן ובעותקים. 

המהלך החד-צדדי של ארכיון האינטרנט עלול להתברר כגורלי: התובעים מתנגדים לא רק למודל ספריית החירום, אלא לעצם קיומה של ספריית ארכיון האינטרנט. בעוד ספריות ציבוריות רוכשות רשיון שימוש בספרים דיגיטליים, שכולל הגבלה על מספר ועל משך ההשכרה, הספרייה של הארכיון קנתה או קיבלה תרומה של ספרים, סרקה אותם והשאילה את העותק הסרוק, בלי לחתום על כל הסכם עם ההוצאות. לדברי קייל, התביעה “קוראת תיגר על עצם הרעיון של מהי ספרייה בעולם הדיגיטלי”.

[ עוד בנושא: איך גוגל כמעט הצליחו לשחרר את כל הספרים ]

את הולכת להפוך לוויראלית

ג’וניקה צ’ארלז היתה בת 27 מדרום קרוליינה, דרת-רחוב מכורה לסמים, עובדת בזנות ומנוכרת למשפחתה ולבנה בן ה-3, כשעוכבה לפני ארבעה חודשים על ידי מאבטח בשם ג’וליוס לוקליר כשניסתה להיכנס למועדון פרטי. היא טענה שהעיכוב לא מוצדק, והחלה לרקוד ולשיר לו “You about to lose yo job” (“אתה הולך לאבד ת’עבודה שלך”). הסרטון שתיעד אותה הפך ויראלי בתזמון המושלם של המחאה על רצח ג’ורג’ פלויד והגזענות נגד שחורים בארה”ב, זכה לרימיקס של דיג’יי iMarkkeyz (שאחראי גם לרימיקס קרדי בי נגד קורונה) ודיג’יי סווייד, ושינה את חייה.

מצלמת-הגוף של המאבטח לוקליר לא עבדה, לכן קולגה שלו צילם את האירוע. לוקליר פרסם את הסרטון בפייסבוק בתחילת פברואר: “אוקיי *אני לא מפרסם את זה כדי לצחוק על האישה!!!* אני מפרסם את זה כי הראפ הזה היה דלוק 😂😂😂😂😂 והלוואי שהייתי יכול לשים עליו ביט lol”.

צ’ארלז לא שורצת ברשתות חברתיות ולא ידעה שהפכה לכוכבת ויראלית עד שחבר-לכיתה לשעבר שלח לה את הסרטון בפייסבוק, ואחותה אנדריאה סיפרה לה על ההצלחה שלו. “הסתובבתי ברחובות, והם [המשפחה שלי] חיפשו אותי. כנראה שהם ראו שהסרטון יוכל פשוט לשנות את חיי, והם הקימו משלחת חיפוש שלמה למצוא אותי”, סיפרה צ’ארלז לבאזפיד. הקשר חודש והיא עברה לגור איתם ולשקם את חייה.

האחות אנדריאה סיפרה לבאזפיד: “בהתחלה לא התפעלתי [מהסרטון], אבל אז נכנסתי לאינסטגרם וראיתי אפילו יותר אנשים אומרים, ‘מי האישה הזאת?’ אז הייתי כזה, אוקיי, זו הזדמנות לאחותי להפוך למוכרת. אם העולם רוצה לדעת מי היא, למה לא לתת לעולם לדעת מי היא?” בעקבות בקשות של אנשים לעזור לג’וניקה, אנדריאה פתחה לה אינסטגרם, החלה למכור ממתגי חולצות והקימה גופאנדמי שגייס יותר מ-53 אלף דולר בשבוע.

לוקליר, אגב, לא איבד את עבודתו.

ג’וניקה צ’ארלז והמאבטח ג’וליוס לוקליר 🖼️ הפייסבוק של לוקליר

אם אתן רוצות להמשיך להפיק את הפודקאסט שלכן גם בימי הריחוק החברתי, אם אתם רוצים לנצל את הזמן הפנוי להתחיל את הפודקאסט שדחיתם עד עכשיו – דברו איתנו באימייל (Go@podcasti.co) או בטלפון (053-7337419), או בקרו באתר לפרטים נוספים Podcasti.co


הפינה “האחראי על האינטרנט” משודרת מדי שבת ב-19:30 בתוכנית “שישבת” בהגשת עידן קוולר בגלצ 🎵 אות פתיחה: ניאן קאט של daniwell, ביצוע גיטרות לניאן קאט של The GAG Quarter והשיר Never Gonna Give You Up של ריק אסטלי 😇 תודות: הדר בן יהודה, יובל פינטר🔧

תגובות

פרסום תגובה

עליך להתחבר כדי להגיב.