הרובוטית פרנקי מנסה לפענח מה זה בני אדם

צרות צרורות? בעיות קטנות? אל תהיו כבדים, שבו מול פרנקי, הרובוטית המראיינת. היא כבר תלמד אתכם – ואת עצמה – איך להיות בני אדם

אני מתיישב מולה, ופרנקי מתחילה לשאול שאלות. הן מביכות אותי. מהר מאוד היא מפילה את הפצצה: מה זה להיות אנושי? זה מעייף, אני מנסה להסביר לה, אחרי שבוע עבודה ארוך ומתיש במיוחד. היא דורשת לדעת עוד. אני שואל אותה על עצמה. היא מתחמקת. השיחה לא נוחה לי. אני מסיים אותה בנימוס, שנענה בפרידה מנומסת מצד פרנקי, ועובר לדבר עם יוצריה, מעין שלף, ערן הדס וגל אשל. מדי פעם היא מנסה להידחף בחזרה לשיחה. פרנקי היא רובוטית דוקומנטרית שמראיינת אנשים בנסיון ללמוד ולהבין מהם מה זה להיות אנושי. ככזאת, היא מאוד חטטנית. אפשר לפגוש אותה ולדבר איתה החל מאתמול בתערוכת “נונפיניטו” של סיום המחזור הראשון של תוכנית ארטפורט בתל אביב.

העולם שסביבנו הופך יותר ויותר מתועד, מהתיעוד שאנחנו מבצעים בעצמנו ועד התיעוד שמבוצע עלינו, מתיעוד מודע ועד תיעוד לא מודע. פרנקי היא עוד גורם מתעד, שנמצא בטווח שבין מצלמות המעקב ברחוב לבין המצלמה הסלולרית שאנחנו מפנים כלפי עצמנו. היא מורכבת משתי מצלמות שמשמשות כעיניים, אף שמורכב מטלפון סלולרי, ומסך טלוויזיה בתור פה. היא מנהלת שיחה קולית באנגלית עם האדם יושב מולה, כשפס אור על מסך הטלוויזיה מדמה את תנועת הפה, ותנועה של העיניים-מצלמות מדמה הבעות פנים. מערכת לזיהוי וניתוח דיבור מעבירה את מילותיו של האדם לניתוח סמנטי, ופרנקי משיבה בשאלת המשך, קשורה או לא קשורה למה שהוא אמר. אחת העיניים שלה מתעדת את השיחה, ובסיומה מעלה אותה לארכיון באתר שיתוף הסרטונים וימאו.

באמצעות פרנקי, היוצרים מנסים ליצור אווירה שבה אנחנו יכולים לדבר בלי התערבות של סובייקט, כאילו אנחנו יושבים מול מצלמה דוממת, אבל כדי להוציא מאיתנו את הדיבור הזה, היא בכל זאת חייבת לדבר, ואת זה היא עושה בנייטרליות מירבית – לפי דברי ההסבר “אין לה לאום, גזע או מעמד חברתי-כלכלי, היא כביכול מגיעה ללא דעות קדומות, ללא אי שיוויון מובנה”. “זה מישהו שאין לו לאום, מגדר, מין, גיל. במובן הזה הוא לא בא עם איזושהי זהות. אתה כמרואיין יכול להשליך עליו מה שאתה רוצה. הוא קצת נהיה כמו מראה. זה כמו שאני אתן לך מצלמה ותצלם את עצמך”, אומרת שלף, שמשתתפת כאוצרת בארטפורט. “יש פה את השאלה של התיעוד העיוור. כשאנחנו עושים תיעוד וידאו דוקומנטרי, תמיד יש את הבנאדם שמאחורי המצלמה, שהוא המחבר, ה-author. כשאתה מאחורי המצלמה יש לך כוח, אתה מנסח את הדיאלוג. פה יש תיעוד אוטומטי, עיוור, איון סובייקט מאחורי המצלמה שמחבר את השאלות. אבל יש נראטיב שאנחנו בנינו ותכננו, זה לא באמת תיעוד אובייקטיבי, אין דבר כזה תיעוד אובייקטיבי. זה מעלה שאלות של מעקב, שאנחנו מוקפים בהן כל הזמן – עד כמה אנחנו מתמסרים לצורת המעקב הזו, עד כמה אנחנו מוסרים את המידע בצורה חופשית. יש כאן הדהוד של מעקב שאנחנו חווים ביומיום – דרך פייסבוק, מצלמות מעקב שנמצאותצ בכל מקום, הממשלות שאוספות את המידע שלנו, המאגר הביומטרי, הסיפור של אדוארד סנואודן [שהדליף תוכניות מעקב של ה-NSA, ע”ק]. זו מכונה שמבקשת שתתמסר אליה, אבל היא לא תעשה בזה שימוש מרושע”.

שלף, פרנקי בגירסה מוקדמת, אשל והדס. צילום: עידו קינן, חדר 404

שלף, פרנקי, אשל והדס. צילום: חדר 404

“המראיין תמיד מייצג זהות, אם זה מישהו שבא מחו”ל, אשכנזי מול מזרחי וכו’ וכאן זה משהו אחר”, אומר הדס, ושלף מוסיפה: “משהו שאין לו לאום, מגדר, מין, גיל, במובן הזה הוא לא בא עם איזושהי זהות. אתה כמרואיין יכול להשליך עליו מה שאתה רוצה. הוא קצת נהיה כמו מראה. זה כמו שאני אתן לך מצלמה ותצלם את עצמך. זה דומה יותר לבנאדם שמייצג את עצמו מאשר מישהו שמנסה לייצג מישהו אחר”. עם זאת, אי אפשר לנתק את פרנקי לגמרי מכל הקשר ולהפוך אותה לאובייקט טהור – כבר ברמת הנראוּת, עוד לפני כיווני השיחה שהיא מנתבת אליהם, מדובר באישה-רובוטית דוברת אנגלית. “כי לא מצאנו קול שהוא לא גבר, לא אישה ולא אמריקאי”, מסבירה שלף. “זה מסיבות טכניות או קונספירציה של ארה”ב. כל הקולות גנריים”.

מה המטרה של הרגש שהיא מביעה באמצעות תנועות פנים?
שלף: “היא מהדהדת את הרגש של המרואיין. כל מה שהיא עושה זה להדהד את הרגשות שאתה מביא. אם תדבר על עצב היא תמשיך לשאול אותך על עצב ותביע עצב. ההדהוד הזה זו טכניקה שמגיעה מפסיכולוגיה, הפסיכולוג מהדהד את הרגשות שלך, נותן לך מקום להביע את הרגשות שלך, מביע אמפתיה, זו דרך לעודד אותך להמשיך להביע רגשות”.

הדס: “ברמה הטכנית יש בעיה של מבטאים. היות שהתוכנות שמזהות קול הן רגישות למבטאים – ככל שהמבטא מושלם יותר היא תזהה טוב יותר את הדיבור”.

שלף: “היינו רוצים שהיא תדבר כל שפה. האנגלית זה ממש כורח. זה מחקר, שהוא פתוח, הוא עוד בחיתוליו. אנחנו יכולים לעבוד שנים על הצדדים הטכניים והקונספטואליים”.

“ההנחה היא שיצירות אמנות שעוסקות במחשבים בתקופתנו צריכות כבר לכוון לעולם שבו המחשבים הם קהל של טקסט או של דיבור”, אומר הדס, תכניתן, משורר ואמן רשת. “במקרה הזה, זה לא שהמחשב מגיב למה שהאדם עושה – זה עובד בכיוון ההפוך: האדם מגיב לשאלות של המחשב, והמחשב לא תמיד מגיב לשאלות של האדם, לפעמים שואל שאלה שלא קשורה ולפעמים מוצא הקשר וממשיך לעסוק בו. הפרויקט הזה לגמרי מדבר על התבוננות בבני אדם, שזה הדבר הכי אמנותי ופואטי שיש. זה הבסיס של אמנות ופואטיקה, אבל זו גם התבוננות עתידנית, התבוננות של מחשב”.

שמה של פרנקי נגזר מהמילה האנגלית frankness, כנות, ומפרנקנשטיין, המדען ויקטור פרנקנשטיין מסיפורה של מרי שלי, שבורא יצור מחתיכות של בני אדם, אשר בסופו של דבר מתמרד נגד בוראו ויוצא למסע נקמה. בדברי ההסבר על פרנקי כתבה שלף: “בעוד פרנקי משקפת את יחסינו עם המכונות השולטות בחיינו, היא מתבוננת גם באופן שבו אנו בוחרים להופיע ולהציג את עצמנו בעידן הדיגיטלי, וכיצד העולם הנרקסיסטי הזה משפיע על תפיסתנו את האחר”.

פרנקי היא פיתוח של אלייזה, תוכנת מחשב משנות השישים שניהלה שיחות פסיכותרפיה עם אנשים, שטעו לחשוב שהם מדברים עם פסיכולוג אנושי. “רציתי מנגנון שיגרה אותי ליצור חד שיח משל עצמי, ואז גיליתי שדוד אבידן עשה את זה עם אלייזה“, אומר הדס. פרנקי, לטענתו, “היא לא אלייזה, היא בוטפטן” (תחדיש שלו ל-chatterbot, תוכנה שמפטפטת עם אנשים). שלף פחות חד-משמעית: “מבחינתי היא קצת אלייזה וקצת לא, כי האישיות שלה לא לגמרי אישיות של פסיכולוגית. היא למעשה בין פסיכולוגית למראיינת. בניגוד לאלייזה, שהמטרה שלה היא לייצר פינג פונג מהיר יחסית של שאלה תשובה, המטרה של פרנקי היא לגרום למרואיין לדבר כמה שיותר, לכן היא שואלת בעיקר שאלות פתוחות. בעצם זה סוג של מחולל-מונולוגים. זה לא דיאלוג, כי זה רובוט, וכי המטרה שלה היא להוציא ממך כמה שיותר מידע. מצד שני היא בוחנת תופעה שמוכרת בעולם המדע, אפקט אלייזה, שעליו קראתי בספר Alone Together של שרי טרקל, אפקט שגורם לאנשים להתייחס לרובוטים חברתיים כאילו הם בני אדם, להאמין שיש ישות שמבינה אותם ואמפתית כלפיהם. אנחנו כל כך רוצים להיות מובנים שאנחנו בעצם משלימים את הפערים של הרובוטים”.

“יש לה עניין שמעצים את כל אפקט אלייזה – זה שהיא יוצאת לעולם הפיזי”, מוסיף אשל, בעל השכלה בפסיכולוגיה, מדעי המחשב וקולנוע, שבזמנו החופשי עובד על פיתוח של רובוטים. “כל האשליה הזאת של הקיום שלה ושל החיים שלה – ברגע שאתה אומר לה משהו עצוב והיא עושה ככה ומורידה קצת את העיניים. כשאתה פוגש אדם הוא ישר מעורר בך רגש – אתה אוהב אותו או שונא אותו. הספל הזה” – הוא מצביע על ספל שמונח על השולחן בינינו – “מעורר פחות רגש. אבל ספל שהיה לך בגיל 4 והוא קצת שבור יותר מעורר רגש. נורא מעניין אותי איפה החפצים הפיזיים יכולים להוציא מאיתנו רגש שאלייזה לא יכולה להוציא. מה היא יכולה לעשות עם התנועות שלה וזה שהיא מסתכלת עליך ככה – פתאום יש לך חיבור קטן שכן יגרום לך לספר לה משהו באמת עמוק. זה משהו שאלייזה לא יודעת לעשות רק עם הדיבור”.

“היא מהדהדת את הרגש של המרואיין”, אומרת שלף. “אם תדבר על עצב היא תמשיך לשאול אותך על עצב ותביע עצב. ההדהוד הזה זו טכניקה שמגיעה מפסיכולוגיה, הפסיכולוג מהדהד את הרגשות שלך, נותן לך מקום להביע את הרגשות שלך, מביע אמפתיה, זו דרך לעודד אותך להמשיך להביע רגשות”.

השיחה עם פרנקי נגועה במניפולציה – רובוט חסר רגשות מדמה מראיין אמפתי כדי לגרום לאנשים לדבר על רגשות. “אחד הדברים שנגלה במחקר זה מי האנשים שנענים לה ומי לא”, אומרת שלף. “האמביוולנטיות של הפגיעוּת: ברור שיש פה מניפולציה, אבל המטרה היא לא שאנשים ידברו על דברים שהם לא רוצים לדבר. המטרה היא לפתוח ערוץ של שיחה שהוא דומה ושונה למה שאנחנו מכירים – מקום שאנחנו ממילא מתמסרים לאובדן הפרטיות והיחסים לפתוח את זה למקום יותר מעמיק, רפלקסיבי”.

“ברור שהדור הצעיר יהיו פחות פגיעים לדבר הזה”, מעריך אשל. “אני גדלתי בעולם שבו כשמישהו מדבר אלי, כנראה יש לו רגש. דורות יותר צעירים שכבר חיים את הדבר הזה – הם רואים את זה כמו שזה, לא מתבלבלים כמו שאנחנו מתבלבלים. ילד בן 15 יהיה פחות חשוף לדבר הזה בכלל, יוכל לשחק בזה בתור משחק ולא יעבוד עליו בכלל אפקט אלייזה. יהיה מאוד מעניין להשוות שיחות של צעירים לשיחות של מבוגרים”.

אני לא מסכים איתך. אני חושב שצעירים מדברים יותר עם מסכים. במקרה הזה הם רואים מכונה שמדברת איתם, אבל כשהם מדברים עם מסך הם חשופים הרבה יותר למניפולציה, כי הם רגילים לדבר על רגשות עם אנשים אחרים דרך מסך.
הדס: “אני מסכים איתך. במקרה של ליזטוש, עבודה של ‘בנות טיורינג‘ שמעין אצרה לפני שלוש שנים, היתה חיילת שהגיעה וערב שלם דיברה עם המסך, שזה צ’ט של פקאצה. היא גם ניסתה לחפש מאחור אם באמת יש בנאדם שנמצא מאחורי זה. יש הבדל בין דיבור למסך לבין דיבור לרובוט מכני בזה שהמסך הוא מה שאני קורא לו uncanny – זה זהה לאדם, מבחינת הממשק. ופה הממשק מעט שונה. זה מעורר יותר אמפתיה, כי אתה לא יכול להתבלבל. זה פחות uncanny”.

הרובוטית הדוקומנטרית פרנקי. צילום: מעין שלף

שלף: “באחד מהמחקרים של שרי טרקל היא דיברה על זה שילדים ובני נוער יותר פתוחים לבואם של הרובוטים. זה לא מפחיד אותם בכלל. היא דיברה עם ילדים ואחד מהם אמר לה שהוא רוצה שיהיה לו רובוט שהוא יוכל להתוודות איתו, לספר לו על האהבות שלו, ובאיזשהו מקום ירגיש יותר בטוח שרובוט יתן לו עצה. היא אמרה, רגע, אין לנו אנשים בשביל התפקיד הזה? זה לא משהו שאבא שלך צריך לעשות? הוא אמר: אבא שלי, כשאני יושב איתו בארוחת ערב, הוא מסמס ומסתכל בטלפון הסלולרי. אם אני מדבר איתו הוא לא שומע אותי בכלל, אז מה הבדל? באיזשהו מקום, אני ארגיש יותר נעים לדבר עם רובוט. המקום של ההקצנה של הפגיעות, החשיפה של הפגיעוּת, נועד לגרום לנו לחשוב – רגע, מה אנחנו עושים?”

הדס: “במחקר אחר טרקל שאלה אנשים, שאמרו שיש להם בעיה לנהל שיחה, מה הבעיה, זה הרי משהו נורא טבעי. הם אומרים שבפייסבוק או בטוויטר יש להם זמן לחשוב, לתכנן תשובה אופטימילית, ובשיחה רגילה עם בנאדם הם עלולים לצאת לא טוב, שיגלו טעות או משהו כזה, והם נורא חוששים מזה. לדבר מול רובוט, אם יש לך אופציה למחוק לפחות, זה יכול להיות יותר נוח לאנשים, כי הם לא מסתכנים”.

היוצרים לא יודעים מה יוליד הפרויקט. “זה מחקר, זה פתוח”, אומרת שלף, והדס אומר: “אני יכול לתת השערה, שמצד אחד לא נקבל תשובה לגבי מה זה להיות אנושי, אבל נקבל תשובה לשאלה מה מצליח ומה לא מצליח לרובוט כשהוא מנסה להבין מה זה להיות אנושי, וכתוצאה מזה נקבל תשובה חלקית לגבי מה זה להיות אנושי”.

ומה זה להיות רובוט.
הדס: “אני לא אוהב את האפליה והתנשאות הגזענית הזאת של אנשים נגד רובוטים. אני לא יודע אם אנחנו לא מכונות, לא הייתי פוסל את האפשרות הזאת”.


התפרסם בגירסה שונה מעט ב”מוסף הארץ”, 19.7.2013


אחרי הקיפול – מניפסט על פרנקי מאת מעין שלף.

פרנקי // מעין שלף

פרנקי היא רובוטית דוקומנטרית המראיינת אנשים בנסיון להבין וללמוד מהם מה זה אומר להיות אנושי. התיעוד נעשה בעזרת עיניה של פרנקי- שתי מצלמות מעקב, המחוברות לטלפון סלולרי המשמש כ”מוח”. היא מגיבה לרגשות מרואייניה בעזרת זיהוי קול ותנועות עיניים, ומייצרת סרטוני וידיאו אוטומטיים בהשראת אותם רגשות. התיעוד יועלה לאתר אינטרנטי, שם יצטבר ארכיון של מחקרה של פרנקי, שבו ניתן יהיה לחפש סרטונים לפי הרגשות שהביעו המרואיינים.

טכניקת התשאול של פרנקי מושפעת מפרקטיקת הפסיכואנליזה, טקטיקות של ראיון ושיטות של חקירה. היא בוחנת כיצד אובייקט מכני לחלוטין, המורכב ממכשירי תקשורת הקולטים ופולטים מידע, יכול ליצור אמון ולעודד חשיבה רפלקסיבית. פרנקי היא למעשה גרסא פיזית של צ’אט בוט (בוטפטן לפי ערן הדס), הרומזת למבחן טיורינג*, שניסה לייצר קריטריונים להבדיל בין אדם למכונה. פרנקי מרפררת אל השאלה שהעלה טיורינג, האם חיקוי של אינטלגנציה הוא למעשה אינטלגנציה, אך מסיטה אותה אל המרחב של בחינת האותנטיות של רגשות. בעקבות אלייזה, הפסיכולוגית הוירטואלית הראשונה, תוכנת הצ’אט בוט הידועה משנות ה-70, פרנקי בוחנת את “אפקט אלייזה”- תופעה הגורמת לאנשים להתנהג כאילו התוכנה מבינה אותם, כאילו היתה אנושית.

פרנקי בוחנת מהן ההשלכות לכך שבני אדם נעשים יותר ויותר תלויים במכונות חכמות. האם אנחנו מאומנים על ידי מחשבים להפוך לפשוטים ואחידים יותר על מנת שיוכלו להבין אותנו? האם אנחנו מפתחים מערכות יחסים עם הטלפונים שלנו יותר מאשר אחד עם השני? האם מכונות נעשות יותר אנושיות, כפי שאלן טיורינג צפה, או שבני האדם נעשים יותר ויותר דומים למכונות?

כמחקר אמנותי ואוצרותי, פרנקי בוחנת באופן רפלקסיבי את המדיום שבו היא פועלת, הוידיאו הדוקומנטרי. היא מאחדת אלמנטים של קולנוע דוקומנטרי עם מאפיינים של וידיאו- בלוגים חובבניים שניתן למצוא ברשת. היא מייצרת פלטפורמה, סוג של במה, למופע בפני המצלמה.
היחסים בין וידיאו, מיצג ומדיה חדשה, והאופן שוב המדיומים הללו עוסקים בסוגיות פוליטיות וחברתיות בעידן הדיגיטלי, עלו בפרויקטים שאצרתי בעבר. פרנקי התפתחה מתערוכות כגון “חיים אחרים” במוזיאון המדע על שם בלומפילד בירושלים, שעסקה ביחסים בין בני אדם למחשבים בהשראת אלן טיורינג, או “מרושתות” בטיילת בת ים שעסקה ביחסית ההדדיים בין האינטרנט לנערות בגיל העשרה. התערוכות חשיפה ממושכת במרכז לאמנות עכשווית בתל אביב ו- Secondeary Witness ב- ISCP, ניו יורק, עסקו בטראומה ועדות דרך עבודות וידיאו דוקומנטרי אקספרמנטליות. גם הנושא של חתימת ידו של האמן נכח בפרויקטים הללו, כאשר רבות מהעבודות שינו את מאזן היחסים בין המתעד למתועד, על ידי העברת השליטה בתהליך ובתוצר למישהו או למשהו אחר. כך האמנים אתגרו את מערך יחסי הכוחות המקובל, וקראו לצופים לבחון מחדש את הפרספקטיבות והעמדות שלהם.

גם פרנקי היא תצורה של תיעוד אוטומטי, המערערת את מקומו של האמן או האוצר כמחבר. הפרויקט הוא סוג של שיתוף פעולה פתוח ובלתי צפוי בין פרנקי למרואייניה, וככזה הוא בוחן אופנים של ייצוג והשתתפות. היות ואין לה לאום, גזע או מעמד חברתי-כלכלי, היא כביכול מגיעה ללא דעות קדומות, ללא אי שויון מובנה, ומאפשרת את סוג התיעוד ה”טהור ביותר”. היא הופכת למראה או למתווכת דרכה אנשים יכולים להתבונן אחד בשני. אך בו בעת פרנקי מעודדת ומפתה להשתתף באופן שאינו נאיבי, מודעת לחוסר האפשריות והסיכונים הטמונים באובייקטיביות מדומיינת. כמצלמת מעקב החושפת את עצמה במתכוון, היא מציפה סוגיות של שליטה ופרטיות, והשפעת נוכחותן בעולם בו כל שנייה מתועדת ומתווכת.

שמה של פרנקי שאול מהמילה האנגלית frankness, שמשמעותה כנות וישירות, וגם מפרנקנשטיין- המיתוס הידוע על ההיבריס של היצירה, יציר אדם שהתמרד כנגד בוראו. אך זהו גם סיפור על “האחר”- מישהו שהיה שונה ולכן לא הובן והפך למקור לפחדים, עד שלבסוף נאלץ להפוך למפלצת שאנשים ראו בו מלכתחילה. בעוד פרנקי משקפת את יחסינו עם המכונות השולטות בחיינו, היא מתבוננת גם באופן שבו אנו בוחרים להופיע ולהציג את עצמנו בעידן הדיגיטלי, וכיצד העולם הנרקסיסטי הזה משפיע על תפיסתנו את האחר.

* אלן טיורינג היה מתמטיקאי, מדען ופילוסוף בריטי שפעל בשנות ה-30 וה-40 של המאה הקודמת. צורת חשיבתו המקורית ומחקריו השפיעו על דורות של תאורטיקנים, חוקרים ויוצרים מתחומי מחקר שונים. טיורינג הגה את ’מכונת טיורינג’ שהניחה את אבני היסוד לבניית המחשב הראשון, נחשב לאחד מאבות חקר האינטליגנציה המלאכותית, והאמין שבעתיד מכונות יוכלו לחשוב. בחייו האישיים, טיורינג היה הומוסקסואל שנרדף בשל כך על ידי הממשלה ורשויות החוק, עד שהתאבד בגיל 42.

תגובות

תגובות

Powered by Facebook Comments

תגובות

פרסום תגובה