🤦 מערכות זיהוי על הפנים 📻 האחראי על האינטרנט בגלצ

הקליקו לארכיון האחראי על האינטרנט

🎧 להאזנה לפינה 🔊

המצלמה תספר לי איך אתה מרגיש

סטארטאפ לונדוני בשם Sensing Feeling מפתח מצלמות מעקב שמצויידות בבינה מלאכותית לקריאת רגשות וחיזוי התנהגות של אנשים בקהל, מדווח האיבנינג סטנדרד. המערכת בוחנת בקרב הנעקבים הבעות פנים, תנוחות פלג גוף עליון ותחתון, מחוות ידיים, אינטראקציה עם אחרים ותבניות התנהגות, ומשווה אותן לדגימות קיימות של מצבי רוח ידועים, ומציגה הערכה של “מדד רגשי”.

לדברי החברה, המערכת יכולה להתריע על דברים כמו עייפות של עובדים, יעילות של מסכים בתוך חנויות, כעס של נוסעים ברכבת בשעות העומס  וחוסר שביעות רצון של לקוחות במסעדה. המערכת משמשת כיום באוניברסיטה אחת כתחליף לטפסי משוב מרצים.

דיור ממוגן

טכנולוגיות זיהוי פנים משמשות בדיור ציבורי בארה”ב הממומן בכסף פדרלי. שמונה סנאטורים דמוקרטים דורשים משר השיכון והפיתוח העירוני, בן קרסון, לספק להם מידע על המערכות הללו והשימוש בהן. הסנאטורים מעלים חשש כי המערכת עלולה לאפשר “מעקב ממשלתי פולשני, בלתי נחוץ ומזיק” כלפי האנשים המתגוררים בדיור ציבורי. 

“אלו שלא יכולים להרשות לעצמם יותר לא צריכים לקבל פחות פרטיות בסיסית והגנה. הם לא צריכים לסכן את זכויות האזרח והחירויות שלהם, ולא לקבל מעקב ממשלתי מפלה וגורף כתנאי למציאת מקום שהם יכולים להרשות לעצמם לחיות בו”.

מתוך מכתב הסנאטורים לשר השיכון והפיתוח העירוני, בן קרסון

הממשל הפדרלי לא מבצע רגולציה של טכנולוגיות זיהוי פנים, ולכן גם אין כללים ומגבלות לשימוש בהן בדיור הציבורי. מספר ערים בארה”ב חוקקו חוקים מקומיים נגד שימוש מוניציפלי בטכנולוגיות כאלו.

זיהוי גברי לבן

הפופולריות של טכנולוגיות זיהוי פנים גדלות בקרב גופי אכיפה וצבא, כמו גם בשוק הפרטי. אבל האלגוריתמים שמניעים את המערכות הללו לא תמיד עושים את העבודה שלהם כראוי, משלל סיבות. הטענה הזאת קיבלה עכשיו חיזוק ממחקר של הממשל האמריקאי, שתוצאותיו דרמטיות: רוב מערכות זיהוי הפנים שוגות יותר כאשר הן נדרשות לזהות גברים לא-לבנים ונשים.

בבסיסן, מערכות זיהוי פנים אמורות לזהות אדם ספציפי בתמונות שונות שלו. היישומים של מערכות כאלו רבים: אפשר לאתר חשוד בתוך קהל גדול, למצוא נעדר בין שעות רבות של צילומי מצלמות מעקב, לפתוח את הסלולרי של הבעלים אחרי זיהויו ולרשום נוכחות בלי להטריח את האדם להזדהות. לעתים קורה שהמערכות טועות ומזהות את האדם הלא-נכון, ואז הן עלולות לתת לאנשים הלא-נכונים גישה למידע פרטי, או להפליל אדם בפשע שביצע אדם אחר.

מערכות זיהוי פנים 🎨 N. Hanacek/NIST

המחקר נערך על ידי מכון התקנים האמריקאי (NIST, ר”ת של National Institute of Standards and Technolog), על 189 אלגוריתמי זיהוי פנים (האלגוריתמים עצמם, לא המוצרים שנבנו על גביהם), מ-99 מפתחים – רוב התעשייה. המערכות עבדו על מאגר של 18.27 מיליון תמונות של 8.49 מיליון אנשים, שסופקו על ידי מחלקת המדינה האמריקאית, המשרד לבטחון המולדת וה-FBI. החוקרים בחנו שתי משימות עיקריות של המערכות.

המשימה הראשונה היא זיהוי “אחד-לאחד”, שבה המערכת משווה בין שתי תמונות וקובעת אם מדובר באותו אדם. במשימה הזו התגלה שיש פי 10 עד 100 יותר מקרים של זיהוי שגוי של אנשים שחורים או אסייאתיים מאשר של אנשים לבנים. במקרה של אלגוריתמים שפותחו בארה”ב היו שיעורים דומים של זיהוי שגוי בקרב אסייתים, שחורים וילידים-אמריקאים, כשהקבוצה עם שיעור הזיהוי השגוי הגבוה ביותר היה אמריקאים-אינדיאנים. באלגוריתמים שפותחו במדינות אסייתיות לא נרשם הבדל משמעותי של זיהוי שגוי בין אסייתים לבין לבנים. 

המשימה השנייה היא זיהוי “אחד-לרבים”, שבה המערכת מקבלת תמונה של אדם ומחפשת אם יש עוד תמונה של אותו אדם במערכת. המשימה נבדקה רק על מאגר הנתונים של 1.6 מיליון תצלומי מעצרים של ה-FBI. במשימה הזאת נרשמו יותר מקרים של זיהוי שגוי של נשים שחורות.

בעוד בדרך כלל זה יהיה לא נכון להצהיר הצהרות גורפות על אלגוריתמים, מצאנו ראיות אמפיריות לקיומם של הפרשים דמוגרפיים ברוב אלגוריתמי מערכות זיהוי הפנים שבדקנו. אף שלא בדקנו מה עלול היה לגרום להפרשים הללו, המידע יהיה רב-ערך למקבלי החלטות, מפתחים ומשתמשי קצה כשהם ישקלו את המגבלות והשימושים הראויים לאלגוריתמים הללו.

פטריק גרות’ר, מדען מחשב ב-NIST והמחבר הראשי של המחקר

אנשים שאתה עשוי להכיר: בינה מ. לאכותית

פייסבוק הסירו אתמול מאות חשבונות מזוייפים – כולל עמודים, קבוצות ופרופילי אינסטגרם – בנימוק של “הפרעה זרה וממשלתית – שהיא התנהגות בלתי אותנטית מתואמת מטעם ממשלה או גוף זר”, לפי ההודעה הרשמית של פייסבוק. ההסרה נגעה לשתי רשתות בלתי קשורות זו לזו.

הרשת היותר מעניינת מבין השתיים פעלה מוייטנאם וארה”ב, ופעילותה התמקדה בשתי המדינות הללו, כמו גם בקהלים דוברי ספרדית וסינית ברחבי העולם, בעיקר דרך דף הפייסבוק של קבוצת התקשורת האמריקאית The BL. המפעילים ניסו להסתיר את זהותם ואת הפעילות המתואמת שלהם, אבל חקירת פייסבוק קושרת אותם לקבוצת אפוק, מו”לית אפוק טיימס, המגזין המקושר לפאלון גונג. גופים רבים מפעילים חשבונות מזוייפים, אולם המקרה של אפוק הוא הפעם הראשונה שרשת בוטים כזו עושה שימוש נרחב בבינה מלאכותית ליצירת פרצופים אנושיים.

#DeleteYourSocialMediaSite, פייסבוק 📸 shopcatalog.com
#DeleteYourSocialMediaSite, פייסבוק 📸 shopcatalog.com

חלק מהחשבונות הללו השתמשו בתמונות פרופיל שנוצרו על ידי בינה מלאכותית והתחזו לאמריקאים כדי להצטרף לקבוצות ולפרסם את תכני The BL. כדי לחמוק מהאכיפה שלנו, הם השתמשו בשילוב של חשבונות מזוייפים ואותנטיים של אנשים מקומיים מארה”ב לנהל את הדפים והקבוצות. מנהלי הדפים ובעלי החשבונות פרסמו בעיקר ממים ותכנים אחרים על חדשות פוליטיות אמריקאיות ונושאים שכוללים את הליך ההדחה של הנשיא, אידיאולוגיה שמרנית, מועמדים פוליטיים, בחירות, סחר, ערכי משפחה וחופש דת.

נת’ניאל גלייצ’ר, ראש מדיניות אבטחה, פייסבוק, בפוסט הרשמי שפרסם בנושא

פייסבוק הסירו 610 פרופילי פייסבוק, 156 קבוצות, 89 דפים ו-72 פרופילי אינסטגרם של הרשת שקשורה לאפוק. 55 מיליון פרופילים, רובם מחוץ לארה”ב, עקבו לפחות אחרי דף אחד של הרשת; 381,500 פרופילים הצטרפו לפחות לאחת מהקבוצות; וכ-92 אלף פרופילים עקבו אחרי לפחות אחד מפרופילי האינסטגרם. הרשת הוציאה פחות מ-9.5 מיליון דולר על מודעות פייסבוק ואינסטגרם, ושילמה בעיקר בדולרים אמריקאים, וחלק בוון קוריאני, דונג ויאטמי, רופיה אינדונזי, דולר אוסטרלי, דולר חדש טייוואני ודולר קנדי.


הפינה “האחראי על האינטרנט” משודרת מדי שבת ב-19:30 בתוכנית “שישבת” בהגשת עידן קוולר בגלצ 🎵 אות פתיחה: ניאן קאט של daniwell, ביצוע גיטרות לניאן קאט של The GAG Quarter והשיר Never Gonna Give You Up של ריק אסטלי 😇 תודה להדר בן יהודה על העזרה באיסוף הידיעות 🔧

תגובות

5 תגובות לפוסט “🤦 מערכות זיהוי על הפנים 📻 האחראי על האינטרנט בגלצ”

  1. מישהו on 21 בדצמבר, 2019 22:52

    אתה כותב על רשת שמופעלת בידי הפאלון גונג כאילו היא דבר רע, בעוד שמדובר בכניעה של פייסבוק לממשלת סין שמנסה למגר מתנגדי משטר. הסיבה לקיום הרשת האנונימית הזו היא שהם לא רוצים להימכר כאיברים נפרדים על ידי סין. בקיצור, נפלת בפח של פייסבוק.

  2. יובל on 22 בדצמבר, 2019 18:37

    בטוחים ש”אמריקאים-אינדיאנים” ולא הודים-אמריקאיים? (כי כתבתם “ילידים” באותו משפט)

  3. עידו קינן on 22 בדצמבר, 2019 21:41

    ילידים-אמריקאים Native Americans) כוללים אמריקאים-אינדיאנים (הילידים של אמריקה הצפונית, American Indians), ילידי הוואי וילידי הטריטוריות, ובהם ילידי אלסקה. הודים הם Indian Americans.

  4. עידו קינן on 22 בדצמבר, 2019 21:43

    הרשת הזאת הפיצה פייק ניוז שמרני באמצעות פרופילים מזוייפים. זה לא נשמע כמו פעילות דיסידנטית.

  5. » ענקיות הטק מודיעות על מדיניות פנים חדשה 😶 האחראי על האינטרנט בגלצ 13.6.2020 on 13 ביוני, 2020 17:13

    […] […]

פרסום תגובה

עליך להתחבר כדי להגיב.