מערכות זיהוי על הפנים האחראי על האינטרנט בגלצ

להאזנה לפינה

המצלמה תספר לי איך אתה מרגיש

סטארטאפ לונדוני בשם Sensing Feeling מפתח מצלמות מעקב שמצויידות בבינה מלאכותית לקריאת רגשות וחיזוי התנהגות של אנשים בקהל, מדווח האיבנינג סטנדרד. המערכת בוחנת בקרב הנעקבים הבעות פנים, תנוחות פלג גוף עליון ותחתון, מחוות ידיים, אינטראקציה עם אחרים ותבניות התנהגות, ומשווה אותן לדגימות קיימות של מצבי רוח ידועים, ומציגה הערכה של “מדד רגשי”.

לדברי החברה, המערכת יכולה להתריע על דברים כמו עייפות של עובדים, יעילות של מסכים בתוך חנויות, כעס של נוסעים ברכבת בשעות העומס  וחוסר שביעות רצון של לקוחות במסעדה. המערכת משמשת כיום באוניברסיטה אחת כתחליף לטפסי משוב מרצים.

דיור ממוגן

טכנולוגיות זיהוי פנים משמשות בדיור ציבורי בארה”ב הממומן בכסף פדרלי. שמונה סנאטורים דמוקרטים דורשים משר השיכון והפיתוח העירוני, בן קרסון, לספק להם מידע על המערכות הללו והשימוש בהן. הסנאטורים מעלים חשש כי המערכת עלולה לאפשר “מעקב ממשלתי פולשני, בלתי נחוץ ומזיק” כלפי האנשים המתגוררים בדיור ציבורי. 

“אלו שלא יכולים להרשות לעצמם יותר לא צריכים לקבל פחות פרטיות בסיסית והגנה. הם לא צריכים לסכן את זכויות האזרח והחירויות שלהם, ולא לקבל מעקב ממשלתי מפלה וגורף כתנאי למציאת מקום שהם יכולים להרשות לעצמם לחיות בו”.

מתוך מכתב הסנאטורים לשר השיכון והפיתוח העירוני, בן קרסון

הממשל הפדרלי לא מבצע רגולציה של טכנולוגיות זיהוי פנים, ולכן גם אין כללים ומגבלות לשימוש בהן בדיור הציבורי. מספר ערים בארה”ב חוקקו חוקים מקומיים נגד שימוש מוניציפלי בטכנולוגיות כאלו.

זיהוי גברי לבן

הפופולריות של טכנולוגיות זיהוי פנים גדלות בקרב גופי אכיפה וצבא, כמו גם בשוק הפרטי. אבל האלגוריתמים שמניעים את המערכות הללו לא תמיד עושים את העבודה שלהם כראוי, משלל סיבות. הטענה הזאת קיבלה עכשיו חיזוק ממחקר של הממשל האמריקאי, שתוצאותיו דרמטיות: רוב מערכות זיהוי הפנים שוגות יותר כאשר הן נדרשות לזהות גברים לא-לבנים ונשים.

בבסיסן, מערכות זיהוי פנים אמורות לזהות אדם ספציפי בתמונות שונות שלו. היישומים של מערכות כאלו רבים: אפשר לאתר חשוד בתוך קהל גדול, למצוא נעדר בין שעות רבות של צילומי מצלמות מעקב, לפתוח את הסלולרי של הבעלים אחרי זיהויו ולרשום נוכחות בלי להטריח את האדם להזדהות. לעתים קורה שהמערכות טועות ומזהות את האדם הלא-נכון, ואז הן עלולות לתת לאנשים הלא-נכונים גישה למידע פרטי, או להפליל אדם בפשע שביצע אדם אחר.

המחקר נערך על ידי מכון התקנים האמריקאי (NIST, ר”ת של National Institute of Standards and Technolohogy), על 189 אלגוריתמי זיהוי פנים (האלגוריתמים עצמם, לא המוצרים שנבנו על גביהם), מ-99 מפתחים – רוב התעשייה. המערכות עבדו על מאגר של 18.27 מיליון תמונות של 8.49 מיליון אנשים, שסופקו על ידי מחלקת המדינה האמריקאית, המשרד לבטחון המולדת וה-FBI. החוקרים בחנו שתי משימות עיקריות של המערכות.

המשימה הראשונה היא זיהוי “אחד-לאחד”, שבה המערכת משווה בין שתי תמונות וקובעת אם מדובר באותו אדם. במשימה הזו התגלה שיש פי 10 עד 100 יותר מקרים של זיהוי שגוי של אנשים שחורים או אסייאתיים מאשר של אנשים לבנים. במקרה של אלגוריתמים שפותחו בארה”ב היו שיעורים דומים של זיהוי שגוי בקרב אסייתים, שחורים וילידים-אמריקאים, כשהקבוצה עם שיעור הזיהוי השגוי הגבוה ביותר היה אמריקאים-אינדיאנים. באלגוריתמים שפותחו במדינות אסייתיות לא נרשם הבדל משמעותי של זיהוי שגוי בין אסייתים לבין לבנים. 

המשימה השנייה היא זיהוי “אחד-לרבים”, שבה המערכת מקבלת תמונה של אדם ומחפשת אם יש עוד תמונה של אותו אדם במערכת. המשימה נבדקה רק על מאגר הנתונים של 1.6 מיליון תצלומי מעצרים של ה-FBI. במשימה הזאת נרשמו יותר מקרים של זיהוי שגוי של נשים שחורות.

בעוד בדרך כלל זה יהיה לא נכון להצהיר הצהרות גורפות על אלגוריתמים, מצאנו ראיות אמפיריות לקיומם של הפרשים דמוגרפיים ברוב אלגוריתמי מערכות זיהוי הפנים שבדקנו. אף שלא בדקנו מה עלול היה לגרום להפרשים הללו, המידע יהיה רב-ערך למקבלי החלטות, מפתחים ומשתמשי קצה כשהם ישקלו את המגבלות והשימושים הראויים לאלגוריתמים הללו.

פטריק גרות’ר, מדען מחשב ב-NIST והמחבר הראשי של המחקר

אנשים שאתה עשוי להכיר: בינה מ. לאכותית

פייסבוק הסירו אתמול מאות חשבונות מזוייפים – כולל עמודים, קבוצות ופרופילי אינסטגרם – בנימוק של “הפרעה זרה וממשלתית – שהיא התנהגות בלתי אותנטית מתואמת מטעם ממשלה או גוף זר”, לפי ההודעה הרשמית של פייסבוק. ההסרה נגעה לשתי רשתות בלתי קשורות זו לזו.

הרשת היותר מעניינת מבין השתיים פעלה מוייטנאם וארה”ב, ופעילותה התמקדה בשתי המדינות הללו, כמו גם בקהלים דוברי ספרדית וסינית ברחבי העולם, בעיקר דרך דף הפייסבוק של קבוצת התקשורת האמריקאית The BL. המפעילים ניסו להסתיר את זהותם ואת הפעילות המתואמת שלהם, אבל חקירת פייסבוק קושרת אותם לקבוצת אפוק, מו”לית אפוק טיימס, המגזין המקושר לפאלון גונג. גופים רבים מפעילים חשבונות מזוייפים, אולם המקרה של אפוק הוא הפעם הראשונה שרשת בוטים כזו עושה שימוש נרחב בבינה מלאכותית ליצירת פרצופים אנושיים.

חלק מהחשבונות הללו השתמשו בתמונות פרופיל שנוצרו על ידי בינה מלאכותית והתחזו לאמריקאים כדי להצטרף לקבוצות ולפרסם את תכני The BL. כדי לחמוק מהאכיפה שלנו, הם השתמשו בשילוב של חשבונות מזוייפים ואותנטיים של אנשים מקומיים מארה”ב לנהל את הדפים והקבוצות. מנהלי הדפים ובעלי החשבונות פרסמו בעיקר ממים ותכנים אחרים על חדשות פוליטיות אמריקאיות ונושאים שכוללים את הליך ההדחה של הנשיא, אידיאולוגיה שמרנית, מועמדים פוליטיים, בחירות, סחר, ערכי משפחה וחופש דת.

נת’ניאל גלייצ’ר, ראש מדיניות אבטחה, פייסבוק, בפוסט הרשמי שפרסם בנושא

פייסבוק הסירו 610 פרופילי פייסבוק, 156 קבוצות, 89 דפים ו-72 פרופילי אינסטגרם של הרשת שקשורה לאפוק. 55 מיליון פרופילים, רובם מחוץ לארה”ב, עקבו לפחות אחרי דף אחד של הרשת; 381,500 פרופילים הצטרפו לפחות לאחת מהקבוצות; וכ-92 אלף פרופילים עקבו אחרי לפחות אחד מפרופילי האינסטגרם. הרשת הוציאה פחות מ-9.5 מיליון דולר על מודעות פייסבוק ואינסטגרם, ושילמה בעיקר בדולרים אמריקאים, וחלק בוון קוריאני, דונג ויאטמי, רופיה אינדונזי, דולר אוסטרלי, דולר חדש טייוואני ודולר קנדי.

---

הפינה “האחראי על האינטרנט” משודרת מדי שבת ב-19:30 בתוכנית “שישבת” בהגשת עידן קוולר בגלצ אות פתיחה: ניאן קאט של daniwell, ביצוע גיטרות לניאן קאט של The GAG Quarter והשיר Never Gonna Give You Up של ריק אסטלי תודה להדר בן יהודה על העזרה באיסוף הידיעות

תגובות

• מה זה פה?

  חדר 404 של עידו קינן הוא מגזין תרבות דיגיטלית, טכנולוגיה וחיי רשת. הקליקו למידע נוסף »

  Room 404 by Ido Kenan is an Israeli based digital culture magazine. Click for more info in English »

• רוצה להפיק פודקאסט?

  

• המלצת סייברסייבר (מ)

  

• פרנסה

  

• לאחרונה בחדר 404

  • ילד, רובוט התמיכה הרגשית שלך עומד למות האחראי על האינטרנט בגלצ
  • שליחות קטלנית בלי ביטוח רפואי האחראי על האינטרנט בגלצ
  • ה-NFL מזייפים את אלישה קיז, קנדה אייר מאשימים את הצ’טבוט ומפסידים האחראי על האינטרנט בגלצ
  • שתיקטוק האחראי על האינטרנט בגלצ
  • איך מדרגים בעברית?
  • שקר הביטקוין, קיץ חם במקרר של שופרסל, הצופן היווני ועוד עדכוני סייברסייבר
  • זום מסתבכת עם העובדים והמשתמשים האחראי על האינטרנט בגלצ
  • אילן מאסק ממשיך לחטוף יוזרים בטוויטר
  • ברכות לסופרת בינה מ. על כניסתה לרשימת רבי המכר של קינדל
  • פסיקה עלולה לתת למו”לים שליטה מוחלטת על השאלת ספרים דיגיטליים בספריות
  • תומכי נטלי דדון מבצעים לינצ’טרנט שנמוך דירוג בבית-קפה הלא-נכון
  • זעם נגד תרגום המכונה האחראי על האינטרנט בגלצ
  • מתמונות חתולים לפוליצר – חדשות באזזפיד נסגרים האחראי על האינטרנט בגלצ
  • תיק-תק לחסום את טיקטוק האחראי על האינטרנט בגלצ
  • זו תרבות ביטול על כלום האחראי על האינטרנט בגלצ

•