אש, יא גולש? אתה עצור על הסתה להצתה » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

גל שריפות שורף את המדינה ורבבות מפונים מבתיהם, אבל שר בטחון הפנים גלעד ארדן טען שלשום שגל השריפות “נמצא תחת שליטה”. ואם תחת הוא, למה לא להתפנות לתחביבו של השר, המלחמה בהסתה ברשת? ארדן הודיע שיבזבז משאבי ציבור על מעצר אנשים שהביעו שמחה על השריפה ברשתות החברתיות. לפי עידן אבני ברשת ב’, “השר לבטחון הפנים גלעד ארדן הנחה את המשטרה לעקוב אחר הרשתות החברתיות כדי לאתר גולשים שהסיתו להצית שריפות או הביעו שמחה על השריפות ולמצות עמם את הדין”. ארדן כתב אתמול בפייסבוק שלו: “‏בהנחייתי משטרת ישראל תעשה הכל כדי למצות את הדין עם המציתים ועם אלה שיסיתו ויביעו תמיכה בהצתות. זהו חלק מטרור היחידים שפועל בהשראת הסתה ברשת”.

חברות וחברים יקרים.
‏בהנחייתי משטרת ישראל תעשה הכל כדי למצות את הדין עם המציתים ועם אלה שיסיתו ויביעו תמיכה בהצתות.זהו חלק מטרור היחידים שפועל בהשראת הסתה ברשת.

שבת שלום.

Posted by ‎גלעד ארדן | Gilad Erdan‎ on Friday, November 25, 2016



אנס אבו דעאבס כתב פוסט על ההצתות. הנה הוא בתרגום יאסר אבו ערישה ונדב פרנקוביץ’ עבור אתר החדשות “שיחה מקומית”:

כחלק מהחגיגות שלנו (הפלסטינים) על מה שנקרא “#ישראל_נשרפת”, אני מציע סדרת צעדים אלו בדחיפות:

דבר ראשון – חרם על טורקיה וארדואן ששלח ראשון את מטוסיו לכיבוי השריפות בפלסטין.. איזו בגידה זו!

שנית, ישנן חורשות שלהבות האש לא הגיעו אליהן עד כה, אז נזמין את החוליגנים מצעירינו שיעשו את העבודה: איקרית, עמואס, תל ח’וויפה, עסקלאן (אשקלון), ביסאן (בית שאן), אל-פאלוג’ה, טנטורה, ח’ובייזה ועוד מחורשות ארצנו והכפרים העקורים.. העשב היבש נדלק במהירות ויותר משמח כפי שאתם יודעים!

שלישית – במקום התפילה בשישי לכך שירד הגשם שמאחר לבוא (לא שזו קללה –חו”ח-אלא זה חלק מעונשו של אללה לכול מי שמתנהג בחוסר צדק), נתפלל לרעם, ברק ויותר רוחות בלבד.

דבר רביעי – יישובים ערבים שמסביבם יש שריפות, או המאמינים המתגוררים בחיפה וירושלים ומי שהאש כיתרה אותם – מאחר ומה שקרה זה מן אללה, אז אתם בטוחים. כל שנותר הוא שתוסיפו חומרי בעירה בכיוון נגדי לבתיכם. הרי ההאשמה שמדובר ב”אינתיפאדת הצתות”, כבר מוכנה אצל המשטרה.

בעניין ההוראות שמצביאי המוסלמים בעבר היו נותנים לחיילים (כמו): “לא לעקור דקל, לא לשרפו, לא להרוג בהמה, לא לעקור עץ מניב, לא להרוס שוק, לא להרוג ילדים, זקנים או נשים…” אז כל זה מיותר כי דמוקרטיה מבטלת מונרכיה של נסיכים. ועל אף שבזמני מלחמה שימור עצים מגיע לפני שמירה על חיי אדם, אנו מזמינים את המסגדים לקרוא קריאות שמחה עקב הניצחון המובהק.

#סאטירה_ולא_ברצינות

#השטויות_של_הערבים

#העשן_מעוור_את_העיניים_והלב

פוסט של אנס אבו דעאבס נגד הצתת שריפות, 24.11.2016

אבו דעאבס פרסם את הגירסה הראשונה של הפוסט ביום חמישי ב-16:05, והיא לא כללה את שני הקטעים שהדגשתי בתרגום. חצי שעה אחר כך, ב-16:38, הוסיף אבו דעאבס את ההשתגית “#סאטירה_ולא_ברצינות” (במקור #تهكم_ومش_جد), כדי להבהיר לאנשים לא הכי מחודדים ולמשטרה כי מדובר בפוסט סאטירי שנכתב בסרקזם ויוצא נגד ההצתות. לרוע מזלו, במשטרה לא מבינים ערבית, סאטירה ו/או סרקזם, והם עצרו אותו באותו היום (עוד לפני ההצהרה של השר ארדן) להסתה להצתה.

שיח שריפות. תמונה: יוג'ניה לולי (cc-by-nc)

אם במשטרה לא היו מתקמצנים על חבילת הגלישה הסלולרית, הם היו מוצאים את הפוסט שפרסם אבו דעאבס ארבע שעות קודם לכן, ובו כתב נגד הצתות, והתאפק עם הסרקזם עד למשפט האחרון (ושוב התרגום של “שיחה מקומית”):

לאיזו רמה של בורות וחוסר מודעות הגענו?! ארצנו נשרפת, ומסתבר שיש ערבים בארצות האזור שעסוקים בלשבח את אלוהים ולהלל אותו על זה. מופלא בעיני איך השכל יכול להפסיק לחשוב ולהפוך לדבר כזה אידיוטי. ה’חגיגות’ האלו מעידות על קוצר ידנו ומראות עד כמה אנו רחוקים מהמקום בו אנו שואפים להיות!

איזה מין שבח לאל זה כשאומרים ‘ריבונו של עולם מעניש אותם על מניעת קריאת המואזין’? איזו חוצפה ‘אמונית’ צריכה להיות לבנאדם כדי לייחס לבורא ישתבח את השריפות ולטעון שזהו העונש שגוזר אלוהים על מי שחוקקו חוק שעוין את הקריאה לתפילה (ושעדיין לא נחקק)? הרי בארצנו שפיכות דמים הפכה לדבר שבשגרה, יש הרס בתים בכל פינה, התחוללו כאן גירושים ומעשי טבח… והרי ‘הרג המאמינים חמור יותר בעיני האל מהרס אבן הכעבה’, לא?! כמה טיפש צריך להיות כדי להאשים את אלוהים בכך שהוא משתתף בזילות אמונתנו בכתבי הקודש ורידודה לכדי התפישה שלפיה אדיקותנו תגרום לריבון העולמים לשפוך את חמתו על הארץ, כפיצוי על חולשתנו?!

נו, לו ידענו שאושרכם וחירות הארץ תלויים בהפיכת ארצנו ויערותינו לערימת גחלים, מזמן היינו משדלים את הפרחחים שלנו לשרוף את פלסטין וכל עציה…!

כרזה הקוראת לשחרור אנס אבו דעאבס, שנעצר בחשד להסתה בפייסבוק להצתת שריפות. גולשים פרסמו את הכרזה על קיר הפייסבוק של אבו דעאבס

כרזה שפרסם מתגלץ’ על קיר הפייסבוק של אנס אבו דעאבס, הקוראת לשחרורו ממעצר בחשד להסתה בפייסבוק להצתת שריפות

בוויינט דיווחו אתמול אלי סניור, רועי ינובסקי, אחיה ראב”ד, יואב זיתון, חסן שעלאן והילה ציאון:

בלשי ימ”ר נגב עצרו הבוקר (יום ו’) בן 24 מרהט, אחיינו של בכיר בתנועה האיסלאמית בחשד שקרא בפייסבוק לצעירים להצית יערות. “ישנן חלק מהחורשות שעוד לא הגיעה אליהן האש”, כתב החשוד בפייסבוק. “צריך לקרוא למופרעים מהצעירים שלנו שיעשו את אשר צריך”.

המעצר התאפשר בעזרת תיאום מהיר שבוצע עם הפרקליטות שאישרה מעצר של מסיתים בפייסבוק וברשתות החברתיות. החשוד יובא הבוקר לבית המשפט השלום בבאר שבע לדיון בהארכת מעצרו. השר לביטחון פנים גלעד ארדן, שהורה לפעול נגד המסיתים, אמר הבוקר: “אנחנו נמצאים תחת טרור המציתים”.

אמא של העצור מרהט אמרה: “אתמול בערב הגיעו לבית כוחות משטרה ועצרו את בני בגלל פוסט שכתב בפייסבוק. לבני אין שום קשר לשריפות שהתרחשו ברחבי הארץ. הוא כל הזמן בעבודתו וביחסים טובים עם כולם ולא חושב על דברים רעים. אני מקווה שהוא ישתחרר ויחזור לחיק המשפחה”.

תגובת המשטרה שהובאה ב”שיחה מקומית”: “חוקרי משטרת ישראל עצרו אתמול בלילה בחור כבן 24, תושב רהט, בחשד שהעלה בדף הפייסבוק שלו, דברי הסתה (בנושא השריפות). החשוד מובא כעת להארכת מעצר בבית המשפט בבאר שבע. החקירה נמשכת ונכון לשלב זה איננו מעוניינים לכנס לאי מפרטיה”.

בשיחה מקומית עדכנו כי אבו דעאבס הובא אתמול (ו’) לבית המשפט, שם הוארך מעצרו עד היום ב-19:00. פרקליטו אמר ל”שיחה מקומית” שהמעצר הוארך בגלל שבמשטרה צריכים לבדוק לעומק את הסטטוסים שכתב.

“במשטרה לא ממהרים לשחרר את הבדואי שכתב פוסט סרקסטי בפייסבוק על השריפות; ‘בודקים חשד שגנב את הבדיחה מיהודי'” (נמרוד צוק)

לפי משטרת ישראל ומשרד המשפטים, יהודים-ישראלים לא מסוגלים להסית כמעט בכלל, לכן הוגשו ב-15′-16′ בין 3-6 כתבי אישום נגד יהודים-ישראלים על הסתה, במקביל ל-80 כתבי אישום כאלו נגד ערבים. הפעם, העיסוק במעצרו של אבו דעאבס מנע מהמשטרה לעצור את כל הגולשים היהודים-ישראלים שהסיתו לשרוף ערבים. אבל זה בסדר, הם בטח היו סרקסטיים.

יהודים-ישראלים מסיתים לשריפת ערבים בפייסבוק, 2016. תמונה: "שיחה מקומית"


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


המרגלים שיתקעו אותנו » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

ארה”ב: התובע הכללי ירחיב את המעקב

המועמד של הנשיא-הנבחר דונלד טראמפ לתפקיד התובע הכללי הוא ג’ף סשנז, סנאטור רפובליקני מאלבמה. המינוי הזה עלול לבשר על החמרה במדיניות המעקבים ובמלחמה נגד הצפנה של הממשל האמריקאי.

סשנז תמך ב-FBI כשהארגון דרש מאפל לספק לו גירסה של מערכת ההפעלה של אייפון שתאפשר לחדור לאייפון של המחבל מסן ברנדינו. אפל סירבה לדרישה הזאת ונאבקה בה בבית המשפט, בטענה שגירסה פרוצה כזאת תאפשר לחדור גם לטלפונים של משתמשים חפים מפשע. לבסוף גנז ה-FBI את דרישתו לאחר ששכר חברה, כנראה סלברייט הישראלית, וזו הצליחה לפרוץ את הטלפון, שעליו לא נמצא מידע שימושי.

שלט בחירות של דונלד טראמפ. תמונה: Tony Webster (cc-by-nc-nd)

התמיכה הזאת של סשנז ב-FBI מייצגת את תפיסתו בנוגע לביון ובטחון. בין השאר, וויירד מדווח שב-2015 סשנז התנגד לרפורמה בשירותי הביון, ה-USA Freedom Act, שנולדה אחרי הגילויים של המדליף אדוארד סנואודן על התנהלות סוכנות הביון NSA. סשנז ייצג קו קיצוני מזה של מפלגתו ואפילו של שירותי הביון – הרפורמה לא רק שעברה בבית הנבחרים ובסנאט בעלי הרוב הרפובליקני, אלא אף קודמה על ידי ראש ה-NSA מייקל רוג’רז.

סשנז גם הציע לשנות את חוק פרטיות התקשורת האלקטרונית (EPCA), כך שיאפשר לרשויות השלטון לקבל מחברות תקשורת, בלי צו, מידע על תקשורת אלקטרונית של אזרחים כולל תוכן התקשורת, אם הרשויות מודיעות כי מדובר במקרה חירום שעלול לגרום לפגיעה פיזית או למוות. זאת אף שחברות התקשורת נוהגות לשתף פעולה באופן וולונטרי כשמוצגת להן סכנה כזאת.

בריטניה: המשטרה תחטט בהיסטוריית הגלישה

מעבר לאוקיינוס, בבריטניה, צפויה גם כן הסלמה של אמצעי המעקב. ה-Investigatory Powers Act (חוק כלי החקירה), חוק שהתקבל ביום חמישי, מאפשר לרשויות לדרוש מספקיות תקשורת לשמור רשומות גלישה של כל המשתמשים שלהן למשך שנה. הרשומות יכולות לכלול כתובת IP, שם השירות שאליו נכנס המשתמש (למשל, גוגל או פייסבוק) או כתובת האתר, והמועד שבו בוצעה הכניסה הזאת.

במרץ השנה, כשהממשלה הגישה גירסה מתוקנת של הצעת החוק לפרלמנט, הסברתי פה מה הבעיה בשמירת רשומות כאלו: הן עלולות לחשוף מידע פרטי ואישי של המשתמשים. למשל, אם אזרח גלש לאתר תמיכה בחולי איידס ולא רוצה שאיש ידע שהוא חולה במחלה, או לחברת כוח אדם והוא לא רוצה שידעו שהוא מחפש/מובטל, או לשירות הכרויות והוא לא רוצה שידעו שהוא מחפש, או למפלגה ולא רוצה שידעו שהוא תומך בה, או לכנסיית הסיינטולוגיה והוא לא רוצה שידעו שהוא תחקירן שמנסה לחדור לשורותיה כדי לבצע תחקיר.

תריזה מיי בימיה כשרת פנים, 22 ביולי 2014. צילום: Russell Watkins/Department for International Development (cc-by)

ראייה לפגיעה בפרטיות ברשומות הללו הודגמה בתרגיל שעשה העיתון המקוון אינדיפנדנט למשרד הפנים הבריטי, כשהגיש בקשת חופש מידע לקבל את היסטוריית הגלישה של תריזה מיי, אז שרת הפנים ומגישת החוק והיום ראשת ממשלת בריטניה. משרד הפנים סירב למסור את המידע וטען כי הבקשה “קנטרנית”.

חוק כלי החקירה יאפשר לרשויות לקבל את המידע הזה בלי צו, כל עוד “אדם בכיר מורשה” יחתום על בקשה כזאת – כלומר, המשטרה תוכל לדרוש את המידע על סמך אישור של איש משטרה בכיר, בלי פיקוח של בית המשפט.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


יום הזכרון של פייסבוק ומלחמתה במילה “קוקסינל” » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

“אין לי מושג אם גם אתם רואים את הכיתוב שאני רואה עכשיו בראש הדף שלי, תחת הכותרת Remembering Meir Wieseltier”, כתב ביום שישי בפייסבוק המשורר מאיר ויזלטיר. “נראה לי שאיזה טרול עלוב הודיע לשלטונות פייסבוק שהלכתי לעולמי, והם מציעים ברוב טובם פרוצדורה להפיכת הדף שלי לדף זיכרון. אין לי ניחוש מיהו המנוול הזה, ואשמח אם מישהו שנתקל בתופעה דומה יודע מה עושים במקרה כזה”.

הפרופיל המונצח של מנכ"ל פייסבוק מארק זאקרברג, שהפך למונצח בעקבות תקלה באתר

לא רק ויזלטיר הוכרז כמת – מתגלצ’ים רבים אחרים נפלו חלל; ולא טרול עשה זאת, אלא פייסבוק עצמה. החברה הודיעה אתמול לעיתונאים שפנו אליה כי “במשך פרק זמן קצר היום, הודעה שמיועדת לפרופילים מונצחים פורסמה בטעות עבור חשבונות אחרים. זו היתה תקלה נוראית שעכשיו תיקנּו. אנחנו מאוד מצטערים שזה קרה ופעלנו במהירות האפשרית לתקן זאת”.

פוסט פייסבוק של מאיר ויזלטיר על הפיכת הפרופיל שלו לפרופיל מונצח

פרופילים מונצחים הם פרופילים שפייסבוק קיבלה דיווח שבעליהם מתו, וביצעה בהם שינויים – הם נחסמים לכניסה (לוגון) ולכתיבה והגדרות הפרטיות שלהם משתנות כך שרק חברבוקים שלהם יכולים לראותם ולפרסם להם הספדים על הקיר. בבלוג “אבק דיגיטלי” של ורד שביט אפשר לקרוא הסבר מפורט על פרופילים מונצחים.

"קוקסינל" נגד בוטים. תמונה: "אני לקבל יכול פלאפל"

“קוקסינל” נגד בוטים. תמונה: “אני לקבל יכול פלאפל”

ומי שלא מת, כדאי שישמור על הפה והמקלדת שלו. בימים האחרונים מחקה פייסבוק פוסטים שמכילים את המילים “קוקסינל”/”קוקסינלים”, וחסמה חלק מהמשתמשים שפרסמו אותם. המדיניות נגד המילים הללו חדשה, כך אפשר ללמוד מהעובדה שחלק מהנמחקים/נחסמים כתבו אותן לפני זמן רב. הבלוג “מזבלה” דיווח שהפוסטים “פורסמו בין שנתיים ל-7 שנים לאחור וכללו את המילה ‘קוקסינל’ על שלל הטיותיה: ‘קוקסינלים, קוקסינל, קוקס, קוקסינלית, קוקסי’ וכו'”. לפי מזבלה, נדב פריד, מנהל דף הפייסבוק “חיילים מצייצים, נחסם ל-30 יום בעקבות סטטוס עם המילה “קוקסינלים” שפרסם לפני שש שנים, כשהיה בכיתה י’.

רז ציפריס, משתמש פייסבוק שנחסם פעמים רבות בעבר, הוא בין החסומים בפשיטה הנוכחית – הוא נחסם על פוסט שלו שהכיל את המילה, אחר כך פייסבוק מחקה מפרופיל גיבוי שלו פוסט ביקורתי נגדה בנושא, וכשכתב ביקורת נוספת נחסם בפרופיל הגיבוי.

פוסט הביקורת הראשון של ציפריס:

רז ציפריס נחסם מפייסבוק בגלל פוסט ביקורתי על פייסבוק על הסרת פוסט שלו עם המילה "קוקסינל"

פוסט הביקורת השני של ציפריס:

סטטוס שני של רז ציפריס שנמחק מפייסבוק במסגרת מלחמתה במילה "קוקסינל"

פוסט הביקורת השלישי של ציפריס, שנכון לעכשיו טרם נמחק על ידי פייסבוק:

סטטוס שלישי של רז ציפריס שנמחק מפייסבוק במסגרת מלחמתה במילה "קוקסינל"

פייסבוק, באמצעות משרד היחץ שלום תל אביב, מוסרים לעתים לעיתונאים שהחברה אינה מגיבה למקרים ספציפיים, אף שהחברה הגיבה פעמים רבות על מקרים ספציפיים; במקרה של מחיקת פוסטים ביקורתיים על פייסבוק שפרסמו אנשי התקשורת רותם שטרקמן ושי גולדן, החברה, באמצעות שלום תל אביב, טענה שהיא בודקת את הנושא, אבל תשובה זו נועדה רק למסמס את הביקורת עליה, כששבועיים וחצי לאחר מכן מסרה החברה שאין בכוונתה למסור מידע בנושא.

במקרה הנוכחי, של חסימת הפוסטים עם המילים קוקסינל/ים, חברת פייסבוק, באמצעות שלום תל אביב, התעלמה מפנייתי במשך יומיים, ואחרי תזכורת מסרה לי היחצנית האחראית כי “לצערי כרגע אין תשובות לשאלותיך, יותר מאשמח לעדכן במידה ויהיו”, שמנסיון העבר אומר שבעוד שבועיים וחצי אקבל “אין תגובה”.

באנר תמיכה בזכויות טראנס, שמקדם ה-Transgender Law Center

במקרה או לא, פייסבוק מקדמת את בחודש המודעות הטרנסית שמצויין בימים אלו, ומעודדת משתמשים להוסיף לתמונת הפרופיל שלהם באנר תמיכה. שירלי צ’ארלי קליינמן סיכמ.ה זאת היטב: “בחודש המודעות הטרנסי, אין מילה ראויה יותר למלא את הפיד שלי מ’קוקסינל'”.

בחודש המודעות הטרנסי, אין מילה ראויה יותר למלא את הפיד שלי מ"קוקסינל".

Posted by Shirley Charlie Kleinman on Friday, November 11, 2016

האנטיתזה לצנזורשת של פייסבוק היא Gab. נמרוד צוק כתב עליה בכלכליסט: “בניגוד למסמכי המדיניות המפורטים והארוכים של הרשתות החברתיות הגדולות, שאוסרים על פרסומים כמו עירום, תוכני שנאה וגזענות, כללי ההתנהגות של טורבה קצרים מאוד: עמוד בן 300 מילה שמצהיר כי הסוג המקובל היחיד של צנזורה היא צנזורה עצמית, כזו שבמסגרתה המשתמשים בוחרים לא להיחשף לתכנים שמרגיזים אותם. ההגבלה היחידה היא לתכנים בלתי חוקיים שעלולים לסכן את האתר או משתמשיו: קידום טרור ואלימות, פורנו בלתי חוקי ופרסום מידע פרטי של אנשים בלי הסכמתם. “נסו להיות נחמדים ואדיבים אלו לאלו, כולנו בני אדם”, חותמת את המסמך בקשה קצרה”.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


מרקל ויועץ המדיה החברתית של אובמה נגד האלגוריתם של פייסבוק » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

קנצלרית גרמניה, אנגלה מרקל, קוראת לחברות אינטרנט להגביר את השקיפות ולשתף את הציבור בדרך שבה האלגוריתמים שלהם עובדים ובוחרים איזה מידע להציג לגולשים. בכנס תקשורת שמתקיים במינכן אמרה מרקל: “האלגוריתמים חייבים להיעשות ציבוריים, כך שאדם שהוא אזרח מתעניין יוכל לענות על שאלות כמו ‘מה משפיע על ההתנהגות שלי באינטרנט, ועל זו של אחרים?’. אלגוריתמים, כאשר אינם שקופים, יכולים להוביל לעיוות התפיסה שלנו, לכווץ את מרחב המידע שלנו”. היא לא נקבה בשמות של חברות, אבל אמרה כי “פלטפורמות האינטרנט הגדולות, באמצעות האלגוריתמים שלהן, הפכו לקוף המחט שדרכו תקשורת מגוונת חייבת לעבור”.

דובר מטעם מפלגתה של מרגל, המפלגה הנוצרית-הדמוקרטית, אמר לאתר שפיגל שהוא לא חושב שמרקל התכוונה שחברות כמו גוגל ופייסבוק יחשפו את האלגוריתמים שלהן, שהם סודות מסחריים, “אבל אנחנו צריכים יותר מידע מהשחקנים הללו לגבי איך האלגוריתמים שלהם עובדים באופן כללי”.

הגרדיאן מדווח שקבוצת עבודה חוצת-מפלגות בגרמניה מרכזת המלצות להגברת הפתיחות של פלטפורמות אינטרנטיות, ובהן ההמלצה להציג למשתמשים פרטים על הדרך שבה האלגוריתמים של הפלטפורמות אוספים, בוחרים, מעריכים ומציגים מידע. הקבוצה תשלח את ההמלצות למפקח הדיגיטלי של האיחוד האירופי, גונת’ר אטינגר, שיגבש מהן כללים מנחים.

דונלד טראמפ והילרי קלינטון, המתמודדים בבחירות לנשיאות ארה"ב 2015. תמונה: DonkeyHotey (cc-by-sa)

דונלד טראמפ והילרי קלינטון, המתמודדים בבחירות לנשיאות ארה”ב 2015. תמונה: DonkeyHotey (cc-by-sa)

מוקדם יותר החודש נשמעה אזהרה דומה מ”בועות הפילטרים” מפי יועץ המדיה החברתית לשעבר של נשיא ארה”ב ברק אובמה. היועץ, קיילב גרדנר, שבין השאר הפעיל את חשבון הטוויטר של אובמה, אמר בהרצאה באוניברסיטת נורת’ווסטרן שבאילינוי ש-44% מהבוגרים בארה”ב מקבלים את החדשות בפייסבוק, ו-61% מבני דור המילניאלז. “אם זה לא מפחיד אתכם, אתם לא יודעים מספיק על האלגוריתם של פייסבוק. […] אם יש לכם הורה שתומך בטראמפ, הוא רואה אוסף שונה לגמרי של ידיעות חדשותיות מאלו שאתם רואים”.

פייסבוק לא מסתפקת ביצירת בועות פילטרים עבור משתמשיה – סינון המידע כך שהם יקבלו רק מידע שתואם את השקפותיהם – אלא גם מחכירה את השירות לחברות ולפוליטיקאים. אתר פרופבליקה חשף כי פייסבוק מאפשרת למפרסמים בפלטפורמה שלה לפלח קהלי יעד לפי “זיקה אתנית” (ethnic affinity), ולהסתיר קמפיינים מקהלים כמו אפריקאים-אמריקאים, אסיאתים-אמריקאים והיספנים. בפרופבליקה ציינו שסינון כזה יכול לאפשר פרסומות שעומדות בניגוד לחוקים אמריקאים ותיקים נגד אפליה – החוק לאיסור אפליה בפרסום מודעות דרושים והחוק לאיסור אפליה בפרסום מודעות למגורים.

בפייסבוק הסבירו שהם בוחרים את הזיקה אתנית של המשתמשים לפי פוסטים ודפים שהמשתמשים מקיימים איתם אינטראקציה, ושזיקה אתנית אינה גזע, נתון שפייסבוק לא מבקשת ממשתמשיה. החברה אמרה שהיא אוסרת להשתמש בסינון הזה לאפליה, ותסיר כל מודעה שתעמוד בניגוד לחוק. לדברי החברה, המטרה של הסינון הזה היא לאפשר למפרסמים לבדוק ולייעל את הפרסומות שלהם, למשל, להריץ קמפיין באנגלית שלא מוצג לאנשים עם זיקה היספנית, כדי להשוות את ביצועיו לקמפיין בספרדית.

לפי כתבה בבלומברג, בקמפיין של דונלד טראמפ עשו שימוש בכלי פילוח כאלו (הם לא נקבו במפורש בכלי הזיקה האתנית, אבל כנראה שבו מדובר) כדי להניא תומכי הילרי קלינטון מלצאת להצביע. “יש לנו שלושה מבצעי דיכוי בוחרים בפעולה”, אמר בכיר בקמפיין – ליברלים לבנים אידיאליסטיים, נשים צעירות ואפריקאים-אמריקאים. הקמפיין שמיועד לקבוצה האחרונה משתמש באמירה מכלילה וגזענית של קלינטון מ-1996, שלפיה חלק מהגברים האפריקאים-אמריקאים הם “טורפי-על” (super predators). המודעה מוצגת לאפריקאים-אמריקאים בפייסבוק ב”פוסטים אפלים (dark posts), פוסטים לא-פומביים, שאינם מוצגים בפיד של דף הפייסבוק של טראמפ, אבל מקודמים לקהל היעד – “רק האנשים שאנחנו רוצים שיראו את זה רואים את זה”, הסביר אחד מאנשי הקמפיין, בראד פאראסקייל, שבין השאר הפעיל את פרופילי הפייסבוק והטוויטר של טראמפ.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


הדברים שניסו להפיל את הווב » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

האינטרנט של הדברים (IoT) שימש לסייברמתקפה הנרחבת ששיתקה גישה לאתרים גדולים, ובהם טוויטר, רדיט וגיטהאב. המתקפה, שנערכה בשלושה גלים, החלה בבוקר אתמול (ו’) שעון החוף המזרחי של הארה”ב. הסייברמתקפה כוונה כלפי חברת Dyn, שמספקת שירותי DNS, שמנתבים את את כתובת הדומיין של האתר שמוזנת בדפדפן לכתובות ה-IP של השרתים שמשמשים לאחסונו, וכך מאפשרים גלישה לאותם אתרים. הפרצנים ביצעו מתקפת DDoS, כלומר שליחת בקשות מידע מרובות שגרמו להאטה ולקריסה של השירות, ובכך פגעו ביכולת הניתוב שלהם, ומנעו גישה לאותם אתרים.

כדי לבצע מתקפה כזאת, יש צורך בכמות גדולה של מכשירים תוקפים, ונהוג להשתמש בבוטנט – רשת של מחשבים שהודבקו בנוזקה, אשר הופכת אותם לזומבים, כלומר למחשבים שערוכים ומוכנים לקחת חלק בסייברמתקפה כזו בלי ידיעת בעליהם. הבוטנט של המתקפה הנוכחית ייחודי משום שהוא הורכב מ”האינטרנט של הדברים”, כלומר לא ממחשבים, לפטופים, טאבלטים וסלולריים, אלא ממכשירים חשמליים בעלי פונקציונליות אחרת שיש להם גם חיבור לאינטרנט – ובהם מצלמות אבטחה, מכשירי וידאו דיגיטליים (DVR) ונתבים.

נוזקה בשם מיראי (Mirai) שימשה פרצנים להפעיל בוטנט של יותר ממיליון “דברים” – מכשירים מחוברים לרשת – כדי להפיל את האתר של עיתונאי הסייבראבטחה העצמאי בראיין קרבז בחודש ספטמבר, במתקפה חסרת תקדים בהיקפה. בתחילת אוקטובר פרסם פרצן בכינוי Anna-senpai את קוד המקור של הנוזקה, כך שמצד אחד מומחי סייבראבטחה ויצרני חומרה ותוכנה יכולים לכתוב קוד להתגוננות מפניה, ומצד שני פרצנים ופצחנים יכולים להשתמש בה לרעה.

קרנף המעקב. תמונה: Lefteris (cc-by-sa)

הבעיה היא שבניגוד למחשבים וסלולריים, חפצים שמחוברים לרשת לא מתוכנתים על ידי חברות גדולות ועשירות שמתמצאות באבטחת מידע, חלקם לא בנויים לעדכוני אבטחה תכופים (או לעדכוני אבטחה כלל), ההחלפה שלהם אינה תכופה (בניגוד להחלפת מחשבים וסלולריים), המודעות של בעליהם לצורך בעדכוני אבטחה כאלה נמוכה, ואלו גם לא מקפידים על סיסמאות קשות לפיצוח, כך שלנוזקה קל לחדור ולהשתלט עליהם, ולהפוך אותם לזומבים בצבא שלה.

רשת הבוטנט שבשליטת הנוזקה מיראי מחזיקה נכון לעכשיו כ-500 אלף מכשירים, ולטענת דייל דרו, סמנכ”ל אבטחה בחברת Level 3 Communications, בראיון למאד’רבורד, כ-10% מהם שימשו במתקפה הנוכחית על חברת דין. רק לפני שבוע הזהיר CERT-US, צוות המוכנות למצבי חירום מחשביים של המשרד להגנת המולדת האמריקאי, מפני מתקפות DDoS על ידי מיראי ובוטנטים אחרים, באמצעות האינטרנט של הדברים.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


יאהו ממשיכה לחטוף על פרשת החיטוט באימיילים של לקוחותיה » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

יאהו חיטטה באימיילים הנכנסים של משתמשיה עבור סוכנות ביון ממשלתית, חשפה סוכנות הידיעות רויטרס בתחילת החודש. הציתות היה חסר תקדים בהיקפו ולא בטוח שהכרחי מבחינה חוקית, יאהו הגיבה בתחילה שהיא מצייתת לחוק ואחרי כיממה הוציאה תגובה שבה אמרה שהסיפור לא מדויק, אך לא הכחישה אותו, וגל כתבות בתקשורת הטכנולוגיה קרא למתגלצ’ים למחוק את חשבון היאהו מייל שלהם.

כתבות שקוראות למשתמשים למחוק את חשבון היאהו מייל שלהם, בעקבות פרשת יירוט האימיילים בידי יאהו. צילומסך מגוגל ניוז

יאהו לא יכלה לבחור זמן גרוע יותר לשבש את שירות הפירוורד האוטומטי של יאהו מייל, זה שאיפשר למשתמשים להעביר את האימיילים הנכנסים שלהם לחשבון אימייל אחר. משמעות השיבוש היא פגיעה ביכולתם של משתמשים להתנתק בצורה חלקית מיאהו מייל על ידי העברת הפעילות השוטפת לחשבון בשירות אימייל אחר, מה שהיה מאפשר להם להודיע לשולחים על כתובתם החדשה מחוץ ליאהו מייל, לשנות את הכתובת שבאמצעותה נרשמו לניוזלטרים ולשירותים שונים מיאהו מייל לכתובת החדשה וכיוצא בזה.

סוכנות הידיעות AP דיווחה על כך ב-10/10, שישה ימים אחרי חשיפת הפרשה. בדף ההסבר על הפיצ’ר ב”יאהו עזרה” נכתב כי “הפיצ’ר הזה נמצא בפיתוח. בעודנו עובדים לשפר אותו, שיתקנו באופן זמני את האפשרות להפעיל את פירוורד האימייל לכתובות חדשות. אם כבר הפעלתם את פירוורד האימייל בעבר, האימייל שלכם ימשיך להתפרוורד לכתובת שהגדרתם בעבר”. מיאהו לא נמסרה תגובה לפניית AP, ורק אחרי הפרסום מסרה החברה כי היא עובדת על “החזרת [הפירוורד האוטומטי] לפעילות בהקדם האפשרי”. השירות הוחזר אתמול, 14/10, ארבעה ימים אחרי הדיווח על שיתוקו.

הודעה על השבתת שירות פירוורד האימיילים ביאהו, 10.2016

בינתיים, 48 חברי בית הנבחרים האמריקאי משתי המפלגות דורשים תשובות. הנציגים ג’סטין אמאש (רפובליקני, מישיגן) וטד לו (דמוקרט, קליפורניה) יזמו את המכתב, שנשלח לתובעת הכללית של ארה”ב, לורטה לינץ’, ולמנהל המודיעין הלאומי, ג’יימס קלאפר, ובו הם דורשים לקבל הבהרות על הפרשה. לפי הדיווח המקורי של רויטרס, ה-NSA או ה-FBI הגישו בשנה שעברה ליאהו דרישה מסווגת לחפש אימיילים שמכילים מחרוזת טקסט ספציפית, שתוכנה לא נחשף, באימיילים הנכנסים של משתמשיה.

יאהו מייל

עם הפרסום ספגה יאהו חריפה ולא אופיינית מצד החברות המתחרות גוגל ומיקרוסופט. עכשיו גם ורייזון משמיעה ביקורת – לא ישירות על הפרשה של יאהו, אבל כן על כך שהממשל חוצה קווים אדומים באיסוף המידע על משתמשים מרשתות תקשורת – במאמר שקרייג סילימן, סגן נשיא בכיר לענייני מדיניות ציבורית ויועץ משפטי בוורייזון, פרסם בבלומברג, נגד איסוף מידע המוני בחברות תקשורת. ורייזון היא חברה שעשתה כל כך הרבה נגד פרטיות משתמשיה, ואפילו לעגה לחברות שדאגו לפרטיות משתמשיהן מול ה-NSA, חברה שבלוג הטכנולוגיה טקדרט מכנה “החברה הכי טובה של ה-NSA” – ואם אפילו חברה כזאת בוחרת לנקוט עמדה ולעמוד לצדם של המתגלצ’ים ופרטיותם – יתכן שאנחנו נמצאים בנקודת מפנה ביחסה של אמריקה התאגידית המסורתית (להבדיל מההייטקית) כלפי הממשל ומשחקי הריגול שלו.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


[תיקון 20:05] במקור נכתב פה בטעות כי ורייזון מתחה ביקורת על יאהו. המאמר של סילימן מוורייזון אמנם פורסם אחרי חשיפת פרשת הריגול של יאהו, אבל נכתב שבועות לפניה, והוא לא עוסק ביירוט אימיילים אלא ביירוט מידע על מיקום משתמשי סלולר.

הפיסקה השגויה שפורסמה פה במקור:

עם הפרסום ספגה יאהו חריפה ולא אופיינית מצד החברות המתחרות גוגל ומיקרוסופט. מבקרת נוספת, פחות צפויה, היא חברת התקשורת ורייזון. לוורייזון אמנם יש אינטרס בעניין – היא נמצאת במגעים לרכישת יאהו, ולפי דיווח של הניו יורק פוסט דרשה הנחה של מיליארד דולר על הצעתה הקודמת של 4.8 מיליארד דולר, בעקבות פרשת הריגול והפרשה שקדמה לה, של פריצה לשרתי יאהו וגניבת פרטי 500 מיליון משתמשים; והביקורת נגד יאהו היא אמנם עקיפה – יאהו לא מוזכרת בשמה במאמר שקרייג סילימן, סגן נשיא בכיר לענייני מדיניות ציבורית ויועץ משפטי בוורייזון, פרסם בבלומברג, נגד איסוף מידע המוני בחברות תקשורת. אבל ורייזון היא חברה שעשתה כל כך הרבה נגד פרטיות משתמשיה, ואפילו לעגה לחברות שדאגו לפרטיות משתמשיהן, חברה שבלוג הטכנולוגיה טקדרט מכנה “החברה הכי טובה של ה-NSA” – ואם חברה כזאת בוחרת לנקוט עמדה ולעמוד לצדם של המתגלצ’ים ופרטיותם – צריך להוריד בפניה את הכובע.

הדרך הכי בטוחה עבור חברה לשמור על המידע שלכם היא לא להחזיק אותו מלכתחילה » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

ממשלות דורשות מחברות טכנולוגיה לספק מידע על לקוחות שלהן. למשל: מידע על תכתובות בשירותי אימייל או צ’ט שהחברות מספקות ללקוחות. החברה יכולה לציית לבקשה ולהעביר את המידע או להיאבק נגד הבקשה בבית משפט (או לסרב פקודה וללכת לכלא).

יאהו בחרה לציית, כפי שעשתה בעבר כשהסגירה מידע על עיתונאים סינים דיסידנסטים לשלטונות סין. לפי סקופ של ג’וסף מן ברויטרס, החברה קיבלה בשנה שעברה דרישה מסווגת מרשות אמריקאית, NSA (סוכנות ביון לריגול אחר פעילות מחוץ לארה”ב) או FBI (רשות לחקירת פשעים פדרליים ולריגול אחר חתרנות וטרור בתוך ארה”ב, שה-NSA מגיש דרכה בקשות למעקבים בתוך ארה”ב), ובעקבותיה סרקה את כל הודעות האימייל הנכנסות של מאות מיליוני משתמשיה בחיפוש אחר מחרוזת טקסט ספציפית שהרשות האמריקאית ביקשה שתחפש. לפי הניו יורק טיימס, יאהו התאימה לשם כך את הכלים ששימשו אותה לסרוק אימיילים נגד ספאם, תוכן פדופילי ונוזקות.

לפיו הכתב מן, מומחי מעקב אומרים שזו הפעם הראשונה שחברת אינטרנט אמריקאית מסכימה לבקשת סוכנות ביון לחפש בכל האימיילים הנכנסים, במקום לבצע חיפוש בהודעות מאוחסנות או במספר מצומצמם של חשבונות בזמן אמת. תגובותיהן החד-משמעיות של המתחרות של יאהו מחזקות זאת. דובר מיקרוסופט מסר לרויטרס: “מעולם לא עסקנו בסריקה סודית של תעבורת אימייל כמו זו שדווחה על יאהו היום”. דובר גוגל מסר: “מעולם לא קיבלנו בקשה כזו, אבל לו היינו מקבלים, התגובה שלנו היתה פשוטה: ‘בשום אופן'”.

יאהו מייל

NSA לא מסרה תגובה. יאהו מסרה תגובה קצרה שלא מכחישה ולא מאשרת: “יאהו היא חברה שומרת חוק, ומצייתת לחוקים של ארה”ב”. בהמשך, כמעט יממה אחרי פרסום הכתבה ברויטרס, הוציאה החברה הודעה נוספת, שבה אמרה כי “הכתבה מטעה. אנחנו מפרשים באופן צר כל בקשה מהממשל לקבלת מידע של משתמשים כדי לצמצם את החשיפה. מערכת סריקת האימייליים שמתוארת בכתבה לא קיימת במערכות שלנו”.

כפי שציין סם בידל באתר אינטרספט, לא ברור למה יאהו לא מסרה את התגובה הזאת מלכתחילה לרויטרס, ולמה לקח לה 20 שעות לכתוב 29 מילים (באנגלית). אלו אפילו לא מכחישות את הסיפור, אלא רק אומרות שהוא מטעה. החברה טוענת שהמערכת ש”מתוארת בכתבה” “לא קיימת”, כלומר ייתכן שקיימת מערכת דומה אך הפרטים לא מדוייקים, או שייתכן שהמערכת הייתה קיימת בעבר אך הוסרה. בנוסף, ההצהרה נשלחה מחברת היחצנות של יאהו, ואינה חתומה על ידי אף אחד, ודאי שלא בכיר ביאהו, לא מריסה מאייר, המנכ”לית שתחתיה התקבלה ההחלטה, ולא על סמנכ”ל אבטחת המידע אלכס סטאמוס.

במקרה של סטאמוס, ברור למה – הוא כבר עבר לפייסבוק. לפי הדיווח ברויטרס, כשיאהו החליטה לציית לדרישת הריגול, היא לא עשתה זאת דרך צוות האבטחה אלא דרך מהנדסי האימייל של יאהו, שכתבו את התוכנה שאספה את האימיילים החשודים ואחסנה אותם עבור רשויות הריגול האמריקאיות. אנשי אבטחת המידע של יאהו גילו את התוכנה במאי 2015, שבועות בודדים אחרי התקנתה, ובתחילה חשבו שמדובר שקראקרים פרצו ליאהו והתקינו אותה. כשסטאמוס גילה שהמנכ”לית מאייר אישרה את תוכנית הריגול, הוא התפטר מתפקידו, ואמר לעובדיו שהחברה לא שיתפה אותו בהחלטה שפגעה באבטחה של המשתמשים. בגלל תיכנות לקוי, הוא טען, קראקרים יכלו לגשת לאימיילים המאוחסנים ולקרוא אותם.

ואין לה עוד לתת לך דבר

המצב בחברה שמאחורי תוכנת הצ’ט סיגנל, אופן וויספר סיסטמז, הרבה יותר טוב. באותו יום שבו נחשפה פרשת יאהו, אופן וויספר סיסטמז דיווחה באתרה כי “‘במחצית הראשונה של 2016’ (זה הכי ספציפי שמותר לנו) קיבלנו צו זימון מהמחוז המזרחי של וירג’יניה. צו הזימון דרש שנספק מידע על שני משתמשי סיגנל עבור חקירה של חבר מושבעים גדול פדרלי. […] זה צו הזימון הראשון שקיבלנו”.

אפליקציית הצ'ט סיגנל. תמונה: אתר סיגנל

וויספר צייתו לצו. אבל מאחר שסיגנל פועלת כפי שהיא פועלת, בניגוד לתוכנות צ’ט אחרות כמו וואטסאפ, היא לא שומרת כמעט שום מידע על משתמשיה, ולכן וויספר לא חשפו כמעט דבר על משתמשיהם: “המידע היחיד שאנחנו יכולים להפיק בתגובה לבקשה כזו היא התאריך והשעה שמשתמש נרשם בסיגנל והתאריך האחרון שבו הוא היה מחובר לשירות של סיגנל”. כל מידע אחר – ובפרט אנשי הקשר, גירסה מוצפנת של אנשי הקשר, מידע נגזר על אנשי קשר, קבוצות צ’ט, מספר קבוצות, שמות קבוצות, חברי קבוצות, עצם קיום תקשורת בין משתמשים וההודעות עצמן – לא נגיש לאנשי החברה, ולכן הם לא יכולים למסור אותו לרשויות, גם אם אלו יעצרו, יקנסו, יאסרו או יכו אותם עם מקלות.

“במקור הוא הגיע עם צו איסור פרסום שמנע מאיתנו לפרסם הודעה זו”, סיפרו אנשי סיגנל על צו הזימון. הם פנו לארגון זכויות האזרח ACLU, ובעזרתו הסירו את הצא”פ ופרסמו את כל מה שמותר מהתכתובות שלהם עם הממשל, דבר שהם מבטיחים להמשיך ולעשות בעתיד.

שרוף את הכל, רק אל תסגיר לקוחות לממשל


לנחשף שהמטרה של הרשויות היתה אדוארד סנואודן, מדליף מסמכי ה-NSA, שהחזיק תיבת אימייל בלאבהביט, וגם החשיפה הזאת קרתה בטעות, כי הרשויות שחררו לפרסום מסמכים שבהם שכחו להשחיר את כתובת האימייל של סנואודן.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


איך הגיעה אישה חסרת ערך לוויקיפדיה העברית? » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

בפינה דיברתי על המאבק של ד”ר שרון גבע בפעילי וויקיפדיה העברית על חשיבותם של ערכים העוסקים בנשים, שנידונה בכתבה של עופר אדרת ב”הארץ”, ובטור של דוד שי, פעיל ותיק בוויקיפדיה העברית, ב”העין השביעית”.


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


פריצה לאייקלאוד של פיפה מידלטון » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

הסאן דיווח שפרצן פרץ לחשבון האייקלאוד של פיפה מידלטון וגנב משם תמונות שלה, שאותן הציע למכירה לתקשורת. אייקלאוד, שירות הענן של אפל, עמד גם במוקד ה”ףאפנינג“, אוסף תמונות עירום פרטיות של סלביות שנגנבו באמצעות פריצות לחשבונות האייקלאוד שלהן והופצו ברשת ב-2014.

פיפה מידלטון. תמונה: TheMatthewSlack (cc-by)


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


תמונה היסטורית של ילדת הנפאלם? פייסבוק מצנזרת כי עירום » האחראי על האינטרנט

הקליקו לארכיון האחראי על האינטרנט

סיפור המאבק בין פייסבוק לבין העיתון הנורבגי אפטנפוסטן, בעקבות החלטת פייסבוק לאסור על פרסום התמונה האיקונית של הילדים הבורחים מהפצצות הנפאלם בווייטנאם, שצילם ניק אוט. המאבק הגיע עד למחיקה של אותה תמונה מהפייסבוק של ראשת ממשלת נורבגיה, ארנה סולברג, שפרסמה אותה בקריאה לפייסבוק לשקול מחדש את מדיניותה

עורך אפטנפוסטן, אספן אגיל הנסן, כתב מכתב פתוח, שפרסם בעיתונו עם הפניית שער, למייסד ומנכ”ל פייסבוק, מארק זאקרברג. בהמשך חזרה בה פייסבוק מההחלטה לאסור את פרסום התמונה.

שער העיתון הנורבגי אפטנפוסטן עם הפניה למכתב הפתוח של העורך אספן אגיל הנסן למייסד ומנכ"ל פייסבוק מארק זאקרברג, 8.9.2016


משודר בגלצ בפינה “האחראי על האינטרנט” בתוכנית “שישבת” בהגשת עידן קוולר. הפינה משודרת מדי שבת ב-19:30


← לדף הקודםלדף הבא →