מבחן טיורינג הפוך, או "מה הבעיה עם להפעיל רשת של חשבונות מתואמים כדי להשפיע על בחירות"?

עצרו הכל וקראו קודם כל את דו"ח פרויקט הבוטים הגדול של נועם רותם ויובל אדם. כיוון שלא עצרם והשקעתם את עשר הדקות שדרושות לקריאה, אני אקצר: רותם ואדם מצאו כי ישנה התאמה מדהימה בין מאות חשבונות שונים בטוויטר לבין מסרים שפועלים למען קמפיין הליכוד. הם מצאו התאמה בזמנים, התאמה במסרים, התאמה באמצעות גרף חברתי (אפשר לקרוא עוד כאן על המשמעות, בפוסט בן תריסר שנים) והתאמה באמצעות קרבה אידיאולוגית. הביקורת על רותם ואדם היא כי חלק מהחשבונות הם אמיתיים, כי הם פעילי שמאל קיצוני, וכי לא נמצאה אינדיקציה למעבר כספים.

אלן טיורינג (נחלת הכלל)

מבחן טיורינג הוא משחק החיקוי; השאלה האם מכונה תצליח לחקות אדם בצורה כה טובה עד כדי כך שבני אדם לא ידעו לענות על השאלה האם מולם עומדת מכונה או אדם. המשחק מבוסס על משחק שטיורינג הציע, "The Imitation Game", (הנושא גם לסרט), בתוך מאמרו הקאוני Computing Machinery and Intelligence שבו טיורינג מציע את הצעתו: המשחק משוחק על ידי שלושה שחקנים: א', ב' וחוקר. החוקר שולח שאלות לא' וב' ומנסה לברר האם הם אנושיים. כדי להמנע מהטיות, התשובה מגיעה על כרטיסיה, כך שלא יושפע מקול. ברגע שהמכונה תצליח לשטות בחוקר, הרי שהבינה המלאכותית תהיה חזקה דיו כדי להיות אנושית (ודין האנושות, בפועל, להכחד, אבל זה ליום אחר).

אף אחד לא חשב על מבחן טיורינג הפוך, מצב בו האדם יהיה כסיל דיו כדי לשטות באדם אחר כדי לחשוב שהוא מכונה; זה מה שקרה בפועל במחקר של פרויקט הבוטים הגדול.

כיצד עבד פרויקט הבוטים? הוא זיהה התנהלות רשתית: חשבונות שעוקבים אחד אחר השני ומהדהדים את אותם המסרים. כיוון שהוא ראה זיקה (מעקב הדדי בין חשבונות), זהות אידיאולוגית, וחוסר פעולה בתחום שאינו המרחב הפוליטי. מרגע שיש זהות כזו, הרי שיש סבירות רבה שמדובר במערכת שמופעלת על ידי גורם מכוון ומרכזי אחד, או שיש השפעה על התודעה בצורה זו. כלומר, שהחשבונות האלו הם חלק מהרשת בין אם בידיעתם ובין אם שלא.

כמה עזות מצח צריך כדי לקרוא לעצמך קפטן ג'ורג'?

כלומר, אם נסתכל על זה ככה, אז פרויקט הבוטים הוכיח לנו שאותם אנשים לא פועלים לפי תכונות שאנו, כבני אדם, מבינים כאנושיות: הן קיצוניות ההתבטאויות שלהם, הן שיתוף הפעולה עם מכונת תעמולה משומנת, והן הדרך שבה הם פועלים, כולם מסמנים כי לא מדובר באדם חי. העובדה שאדם התייצב ואמר "אני הוא הבוט" מעידה בדיוק על הצלחת התעמולה: הדהוד המסרים שמקורם היה במערכת מתוכננת ומשומנת היטב על ידי אנשים בשר ודם שמשקיעים שעות מחייהם לצורך כך הוא די כדי להוכיח את הצלחת הקמפיין. אנשי הקמפיין אולי הם בני אדם, אך אינם מפגינים יכולת קוגניטיבית שמעידה על בינה.

ומכאן לנושא השני, האינדיקציה לכספים; כזכור, הפרויקט לא הצליח להראות (ראו כתבה בNew York Times) קשר כלכלי בין הליכוד לבין הרשת. אבל זה לא נחוץ כלל וכלל כדי להוכיח שיש כאן עבירה פלילית. מדוע? אתחיל מהנושא הקל.

חוק המפלגות קובע תקרת תרומה למפלגה בגובה של 2,300 ש"ח לאדם. פעילות של אדם, בהתנדבות, לצורך קידום בחירת מפלגה מסוימת היא תרומה בשווה כסף, וזאת בהנחה כי אדם מסוים מתואם עם הקמפיין של המפלגה (ראו, להגדרת תיאום) . תרומה כזו צריכה להיות מתועדת ולא יכולה לעבור את הסכום. האפשרות האחרת היא ללכת לפי התיקון האחרון כגוף פעיל בבחירות, ואז מותר לפעול אך צריך לדווח על כך למבקר אם שווי הפעילות הוא מעל ל100,000 ש"ח.

במקרה הזה, שווי הפעילות של רשת הכזבנות, להערכתי, הוא מעל ל100,000 ש"ח. ספק אם העובדה כי אותו קפטן ג'ורג' ועשרות חבריו, בין אם הם בשר ודם ובין אם הם מכונות, במשך שלושה חודשי קמפיין, במשרה כמעט מלאה, לא עוברת סכום זה. לכן, עצם אי הדיווח הוא עבירה פלילית ותרומה אסורה בכל מקרה.

עכשיו, אין בידי כל ראיה כי קמפיין זה ממומן על ידי הליכוד. אבל ככל שהקמפיין לא ממומן על ידי הליכוד יש כאן אחד משניים: או שמדובר על יישות עוינת שרוצה בבחירתו של נתניהו, ועל כן מפעילה רשת שמטרתה להשפיע על התודעה בכסף או בשווה כסף, או שמדובר על תאגיד או אוסף תאגידים שיש לו אינטרסים בבחירת נתניהו; בכל אחד ממצבים אלו, בהם הליכוד אינו מי שמפעיל את הרשת, המצב גרוע פי כמה: הליכוד בפועל פועל כבובת גרב של אחרים בלי שיודע על כך. הוא מקדם בפועל אינטרסים זרים.

אבל מה כן אפשר ללמוד מהמחקר? אפשר ללמוד על כך שאם מסר מהדהד מספיק על ידי מכונות הוא יקלט על ידי בני אדם ויחלחל למטה. כלומר, כל הטענות כאילו אין בידי רשתות של הפצת מידע שקרי להשפיע נגוזו. זו הבעיה האמיתית: אם תחזור על שקר מספיק פעמים אנשים יאמינו לו. הבעיה הזו ממשיכה כאשר אנחנו מבינים שבאמצעות אותם שקרים מחבלים בהליך הדמוקרטי שלנו.

לליכוד היו כמעט מיליון מצביעים בבחירות 2015. אני לא נמנה עליהם, אבל אני מאמין שרובם אכן הצביעו ליכוד כי הם חושבים שבנימין נתניהו הוא מי שראוי להנהיג את המדינה. השאלה היא לא זו. השאלה היא איך משפיעים על אנשים שלא רוצים להצביע לנתניהו לא להצביע למפלגה מסוימת, להחרים את הבחירות או להצביע למפלגה שלא תעבור אחוז החסימה. וזה התפקיד של רשת תעמולה.

10 תגובות ל-“מבחן טיורינג הפוך, או "מה הבעיה עם להפעיל רשת של חשבונות מתואמים כדי להשפיע על בחירות"?

  1. מענין מאוד . ספק רב אם פעילות כזו הינה חוקית, מיותר מדי סיבות , ולא נישאר צעירים כאן . בוטים כאלו , שמים להם למטרה גם ( או בייחוד ) אוכלוסיות יותר פגיעות , ומבצעות שטיפת מוח . לפעמים שקרים ( כמתואר בניו יורק טיימס , גנץ הומו , יש לו שפחה משהו ). תעמולה , תעמולת בחירות לא כל שכן , צריכה להיות הוגנת , אותנטית , ולעזור לבוחרים לקבל החלטה מושכלת. רשת בוטים כזו ,ממש מפירה עקרונות יסוד דנן .

    אגב , האיחוד האירופי , יצא לא מזמן בהכרזה / הצהרה , לגבי הפעילות המניפולטיבית של אלוגריתמים . ובין היתר, בקשר לבחירות , מצטט משם ( ראה לינק ) :

    emphasises in particular the need to assess the regulatory frameworks related to political communication and electoral processes to safeguard the fairness and integrity of elections offline as well as online in line with established principles. In particular it should be ensured that voters have access to comparable levels of information across the political spectrum, that voters are aware of the dangers of political redlining, which occurs when political campaigning is limited to those most likely to be influenced, and that voters are protected effectively against unfair practices and manipulation;

    נתרגם ונתמצת ספונטנית :

    יש להיזהר במיוחד ( עם אלוגריתמים ) בקשר לבחירות וקמפיינים פוליטיים . יש להיזהר ולהגן מביצוע מניפולציות כלפי אוכלוסיות פגיעות . יש לתת אפשרות לבוחרים לקבל בסיס השוואתי בקשר למידע הנוגע לבחירות וקמפיינים פוליטיים .

    כאן להכרזה :

    https://search.coe.int/cm/pages/result_details.aspx?ObjectId=090000168092dd4b

    תודה

  2. השאלה היא האם הפעלת רשת בני אדם שפועלים דה-פקטו כבוטים ופועלים בהתנדבות ומרצונם החופשי היא אסורה. לצערי התשובה היא שכנראה אין שום פסול חוקי בזה. מדכא אבל ככה זה.

    במדינה "מתוקנת" היתה ניתנת זכות בחירה רק לבני אדם שמסוגלים להפעיל חשיבה ביקורתית ושיקול דעת. המחיר הערכי שאנו כחברה, שרוצה להיות דמוקרטית, נידרש לשלם עבור חיים במדינה כזו גבוה מדאי, ולכן המחיר החלופי שאנו משלמים הוא מתן האפשרות לכל יצור בעל דם חם המהלך על שתיים את הזכות לבחור ולהיבחר.

  3. רק נמחיש מהי תעמולת בחירות לא הוגנת ואסורה , על מנת להמחיש את עקרונות היסוד כפי שכתבתי בתגובתי לעי"ל :

    סעיף 16ה לחוק הבחירות ( דרכי תעמולה ) תשי"ט 1959 , בחלקים רלבנטיים , כך מורה אותנו , מצטט :

    (ב) הראשון שמשדר לציבור על תוצאותיו של סקר בחירות ומי שמשדר כאמור בתוך 24 שעות מאז שתוצאות הסקר נמסרו לציבור לראשונה, יציין בצד התוצאות את כל אלה:

    (1) שמו של הגוף שהזמין את הסקר;

    (2) שמו של הגורם שערך את הסקר;

    (3) התאריך או התקופה שבה בוצע הסקר;

    (4) האוכלוסיה שמתוכה נלקח מדגם המשיבים לסקר;

    (5) מספר האנשים שהתבקשו להשתתף בסקר ומספר האנשים שהשתתפו בו בפועל;

    (6) מרווח הטעות לגבי הנתונים שהושגו.

    עד כאן הציטוט :

    אז קוראים אנו , אופן ביצוע הסקר , צריך להיות שקוף , על מנת לקבל בסיס נתונים , שיאפשר החלטה מושכלת ורציונלית לגבי הסקר , ולא סתם מריחה או שטיפת מוח סתמית .

    כאן לחוק הבחירות ( דרכי תעמולה ) :

    https://www.nevo.co.il/law_html/Law01/190_003.htm

    ועוד :

    בחוק הרשויות המקומיות ( בחירות ) תשכ"ה – 1965 ,בסעיף 88 (6) כך , מצטט :

    (6) המשדל אדם להצביע או להימנע מלהצביע, בכלל או בעד רשימת מועמדים מסוימת, בדרך של השבעה, קללה, נידוי, חרם, נדר, התרת נדר, הבטחה להעניק ברכה, או מתן קמיע; לענין זה, "קמיע" – לרבות כל חפץ שבעיני חלק מהציבור יש ביכולתו להיטיב או להרע עמו;

    עד כאן הציטוט :

    אז קמיעות וכיוצא באלה אסורים . ושוב , שטיפת מוח , אשר תמנע קבלת החלטה מושכלת ורציונלית .

    להתראות

  4. השגיאה הראשונה במאמר:
    "ככל שהקמפיין לא ממומן על ידי הליכוד יש כאן אחד משניים: או שמדובר על יישות עוינת שרוצה בבחירתו של נתניהו, …, או שמדובר על תאגיד או אוסף תאגידים שיש לו אינטרסים בבחירת נתניהו; בכל אחד ממצבים אלו, … הליכוד בפועל פועל כבובת גרב של אחרים בלי שיודע על כך. הוא מקדם בפועל אינטרסים זרים"-
    כאילו שאין אפשרות שלישית והיא שאפילו אם הטענה שמדובר בפרויקט ממומן ע"י מאן דהוא אינה טענה שקרית, הרי אפשר שהוא ממומן ע"י עשיר שסבור כי חובתו המוסרית היא להציל את המדינה משלטון גנץ ולפיד.

  5. השגיאה השניה במאמר:
    "חוק המפלגות קובע … פעילות של אדם, בהתנדבות, לצורך קידום בחירת מפלגה מסוימת היא תרומה בשווה כסף, וזאת בהנחה כי אדם מסוים מתואם עם הקמפיין של המפלגה (ראו, להגדרת תיאום [בזבתי זמן לחפש שם את הגדרת "תאום" והעליתי חרס בידי]) . תרומה כזו צריכה להיות מתועדת ולא יכולה לעבור את הסכום"-
    על אף שלא מצאתי הגדרת "תאום" לענין חק זה, אני בטוח שחפש הבטוי בישראל עוד לא דוכא כדי כך שאסור להעתיק דעות מועילות כדי להפיצן, ואפילו להעתיקן באלפי טוקבקים.

  6. השגיאה השלישית במאמר:
    "זו הבעיה האמיתית: אם תחזור על שקר מספיק פעמים אנשים יאמינו לו. הבעיה הזו ממשיכה כאשר אנחנו מבינים שבאמצעות אותם שקרים מחבלים בהליך הדמוקרטי שלנו"-
    לא. זאת לא בעיה אמתית. אילו היתה בעיה אמתית הרי הדמוקרטיה היתה מתה כבר לפני זמן רב (ולו רק בגלל "הנביאים אומרים להם לא-תראו חרב, ורעב, לא-יהיה לכם: כי-שלום אמת … שקר הנביאים ניבאים …; חזון שקר וקסם ואליל, ותרמית"). הפתרון להפצת שקרים הוא אחר, כדברי הר' מקאצק: "חשך לא מגרשים במקל אלא מדליקים אור".

  7. רק הוספה ותיקון טעות למעשה ( מתנצל ) . בחוק הרשויות המקומיות לעי"ל , סעיף 6 קטן כאמור ,הרי בהמשך מצוין כי דינו של המשתמש בתעמולה אסורה כאמור (קמיעות וכדומה שטיפות מוח) כך , מצטט:

    דינו – מאסר חמש שנים או קנס 20,000 לירות.

    לחוק עצמו כאן :

    https://www.nevo.co.il/law_html/Law01/p213_033.htm

    תודה

  8. הראיות במסמך של פרוייקט הבוטים בנוגע ל"רשת" הזו מאוד לא משכנעות, וגם הדיון שהיה בנושא בודעת הבחירות היה מגוחך.

    > כיצד עבד פרויקט הבוטים? הוא זיהה התנהלות רשתית: חשבונות שעוקבים אחד אחר השני ומהדהדים את אותם המסרים. כיוון שהוא ראה זיקה (מעקב הדדי בין חשבונות), זהות אידיאולוגית, וחוסר פעולה בתחום שאינו המרחב הפוליטי. מרגע שיש זהות כזו, הרי שיש סבירות רבה שמדובר במערכת שמופעלת על ידי גורם מכוון ומרכזי אחד, או שיש השפעה על התודעה בצורה זו.

    מה חשוד בפעילות כזו? יש לא מעט משתמשי טוויטר שאכפת להם רק מנושא אחד (במקרה הזה, פוליטיקה), שעוקבים רק אחרי פוליטיקאים, עיתונאים, ואנשים עם דעות דומות (שהם מצאו באמצעות תגובות לציוצים של אותם פוליטיקאים, עיתונאים, ובהמשך, אותם נעקבים חדשים).

    יש לא מעט פרופילים בטוויטר שנמצאו מגיבים לכל מיני honeypots שמצייצים דעות שנויות במחלוקת. הפרופילים אוהבים להגיב להם ואף נכנסים לוויכוחים ארוכים.

    גם "רשתות" כאלה ידועות. זוהי תבנית פעולה מוכרת של טרולים בפורומים כגודמת 4chan. (לא שאני חושב שזה מה שקורה פה). אלה אנשים שמתארגנים באיזהו back-channel (צ'אט או פורום), וביחד יוצרים קבוצות פרופילים בעיקר כדי לטרגט ולהטריד אנשי מפתח, או אנשים שהם מוצאים באמצעות חיפושי מילות מפתח. כל עוד טרולים כאלה לא "ממומנים", האם יש כאן בעיה?

    נראה שחלק מהבלבול בתקשורת נובע מהשימוש במילה "פייק/מזויף" (להגדרת איגוד האינטרנט הישראלי) לתיאור כל פרופיל שלא מזדהה בשם מפעילו האמיתי, עם תמונה אמיתית. טוויטר זה לא פייסבוק, והמון משתמשים מזדהים כך – זה לא אומר שאין בן-אדם אמיתי מאחוריהם, ולא אמור להעלות חשדות. כמו-כן, הרבה משתמשים מחזיקים כמה חשבונות. הנה כמה סוגי פרופילים פופולארים: פומבי, נעול למעגל חברים קרוב, אחד ל"מבוגרים בלבד", חשבון "ebooks" בוט שמצייץ פלטים של markov chain שמבוססת על ציוצים של החשבון האמיתי.

  9. חשוב לציין שהמחקר עצמו לא עסק בכלל ב"בוטים" ולא ניסה לזהות אנושיות של משתמשים. ההבחנה שם היא רק בין "פייקים" (חשבונות שלא הזדהו בשמם וללא תמונה אותנטית, מה שמוגדר "פרופיל מזויף" ע"י איגוד האינטרנט) לבין חשבונות מזוהים (שעל פי המחקר עצמו, הרשת כוללת מאות מהם).

    העובדה שכמעט כל התגובות ברשת עוסקות בבוטים מעידה עד כמה מוצלח קמפיין הנגד שעשתה הרשת הזאת, ש"גייס" את המחקר הזה לשורותיו. אפילו אנשים שקראו את המאמר – אוכלוסיה זניחה ביחס לאלה שראו רק את הכותרת שלו, שלא לדבר על ראה"מ עצמו, הצטרפו לדיון על הבוטים וה"הפרכת" טענות שלא נטענו מעולם (טיעון "איש קש" קלאסי).

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *