זיהוי פנים, אתיקה וגיוס עובדים (קצר, על מה שאמרתי אתמול בכנס של שוברים שתיקה)

אתמול ערך ארגון "שוברים שתיקה" בשיתוף האגודה לזכויות האזרח כנס על מערכת "זאב כחול" שנחשפה. המערכת, שהיא הפייסבוק של הפלשתינים, שמנוהל על ידי צה"ל, מאפשר לחיילים לצלם ולזהות פלשתינאים. יש בכך תועלות בטחוניות רבות, אבל צריך גם לדבר על האתיקה מאחורי זה ועל העובדה שעם שנמצא תחת כיבוש, להבדיל ממי שגולש בפייסבוק, לא ממש יכול לבחור להשתתף או לא להשתתף. זה תמצית ההקדמה שהבאתי:

לפני כמה שבועות פייסבוק הטילה פצצה. מאז הרכישה של Face.com בשנת 2012, כמעט לפני עשור, היא אספה פרטי זיהוי ביומטריים של כל המשתמשים ברשת. כל אדם שהעלה תמונה איפשר לרשת לסרוק אותה, לעבור ולבדוק מי האנשים בתמונה.

אנשים רבים, גם בלי הסכמתם, גילו שהם חלק מהמאגר הביומטרי הגדול בהיסטוריה: כל משתמשי פייסבוק וכל חבריהם שתויגו בצילומים, כולם היו חלק מהמאגר הזה.

נכון, היתה דרך להתנער מהמאגר הזה על ידי חיטוט אי שם באפשרויות עמוק בתפריטים של פייסבוק. אבל… אף אחד לא יודע, עד היום, כמה מתוך ארבע מאות אלף הבקשות שפייסבוק מקבלת בשנה לפרטי זיהוי של אנשים היו בקשות של שימוש במאגר הביומטרי שלה.

נכון, לחלק מהמדינות יש מאגרים משל עצמן: של פושעים, של עובדים זרים, של קופים וצבועים, ולפעמים גם של אזרחים. אבל המאגר של פייסבוק הוא מאגר ייחודי: אפשר לספק צילום ולקבל בחזרה זיהוי גם בלי זהות חזקה: הרי זו הכח של הטרשת החברתית.

במהלך התקופה היו ביקורות ומגבלות על פייסבוק על השימוש בזיהוי הפנים. בחלק מהמקרים דובר על ביקורת על כך שכללי המחדל אינם תקינים. במקרים אחרים דובר על כך שהמידע עובר לשימוש רחב מדי של מפרסמים. אבל חוץ מאיזו ידיעה שולית בשנת 2014 על כך שפייסבוק עשויה להעביר מידע ל-FBI, לא שמענו על זה כלום.

לפני כמה שבועות פייסבוק הודיעה על סגירת המיזם הביומטרי שלה, ובפועל, על כך שהיא מודה שהיישום (גם אם לא הרעיון) היה רע במיוחד.

אבל פייסבוק היא הדוגמא שאני רוצה להתחיל איתה את הפאנל הזה בדיוק בגלל שהיא לא ממשלה. פייסבוק אחראית לכ-10% מהיום שלנו (אם מחשבים את כל האפליקציות יחד). במשך שעתיים ביום, כל אחד מכם עומד מול מסך של סלולרי או מחשב, עונה להודעות ב-WhatsApp, צופה בצילומים של משפעיניות ב-Instagram או מתעדכן בשטויות של אנשים שלא איכפת לו מהם ב-Facebook.

הרבה יותר אינטראקציה מאשר עם ביטוח לאומי או קרן הפנסיה שלכם, ומידע יקר הרבה יותר.  בפייסבוק יש כ-60,000 עובדים. יש בטח כמות דומה מאוד של קבלנים ועובדי קבלן. כל אחד מאלה הוא בורג במערכת שמייצרת טכנולוגיות. הטכנולוגיות האלו יכולות לשמש לטוב, כמו לתקשר עם אחרים, ויכולות לשמש לרע, כמו לעודד עליה לשלטון של שליטים עם מאפיינים דיקטטוריים או עידוד של הפצה של תוכן שקרי לצורך הפיכה פוליטית.

המסמכים שדלפו בחודשים האחרונים הראו שפייסבוק ידעה על זה. זה לא היה מסובך. למה? כי מרגע שאדם פתח פרופיל בטרשת הוא קיבל המלצות תוכן שהפנו אותו לעוד קבוצות, כאשר כל קבוצה מקצינה את העמדות שלו.  לפייסבוק לא היתה מטרה רעה. היא לא רצתה לייצר אנשים אלימים שיסתערו על בית הנבחרים האמריקאי. היא רצתה בסך הכל שתשארו מול המסך שלה עוד כמה דקות ותצפו בעוד פרסומות. פשוט לא היה איכפת לה ממה שקרה בדרך.

הסיבה שאנחנו יודעים את זה היא כי כמה אנשים בתוך פייסבוק שברו שתיקה. הם החליטו שהם לא משלימים עם ההתהגות הזו. בעקבות זאת נוצרה לפייסבוק בעיה. קשה לפייסבוק לגייס עובדים.

אנחנו רואים את הבעיה הזו לא רק עם חברות שנמצאות בצד ה"נחמד" של הבמה; הרי כמו שלכולנו יש חבר שהיה בקבע, אז יש לנו חבר "בהייטק". אותו אדם יהיה חלק ממכונה שעשויה לדכא זכויות אדם, והיא עושה את זה כחלק מתהליך שהוא שקוף. המתכנת נמצא רחוק מהאדם שהזכויות שלו הופרו, והוא בסך הכל כותב קוד.

כמו שהיה קל להצדיק את העבודה בעבור אתרי הימורים, פורנוגרפיה או פורקס, ככה גם בתחום הזה, של מידע ואיסוף שלו, "טובי בנינו" מתקדמים. אותם טובי בנים הם בלי טראומות בשירות, בלי סיכון גופני. הם מרוויחים טוב, תורמים לעמותות הנכונות, מצביעים למפלגות הנכונות, אבל בסוף, הם חלק מתעשייה בעייתית.

החשיפה של שוברים שתיקה בשבוע שעבר, על פרויקטי הזאבים שנדבר עליהם היום היא התפר הזה: כיצד צה"ל משתמש בטכנולוגיה פולשנית ואיך היא משנה גם את הנעקבים: הפלשתינאים, וגם את העוקבים: החיילים.

כל הזמן צריך לזכור: ברקע יש חברה שלמה, יש אוכלוסיה שנמצאת במעקב וללא ברירה. להבדיל מפייסבוק, אותה אתם תמיד יכולים למחוק, או רגולטור קשוח כזה או אחר יכול לרסן, כאן יש צבא. הצבא הזה מחזיק בכלי נשק, ואם מישהו ירצה להתנגד לאיסוף המידע, אז הסנקציות הן טיפה יותר חמורות מאשר "אני לא אהיה חלק מקבוצת הילדים בגן".

תגובה אחת ל-“זיהוי פנים, אתיקה וגיוס עובדים (קצר, על מה שאמרתי אתמול בכנס של שוברים שתיקה)

  1. פוסט חשוב.

    אבל, יש גם מקרים קשים. קשים מאוד. בהם עצם קיומה של פייסבוק, עוזר להפליל במקרים קשים מאוד, של חשד לג'נוסייד למשל:

    ניקח למשל, מה שקרה במיינאמר ( בורמה):

    חשד לג'נוסייד על המוסלמים ( Rohingya).

    מדינת גמביה (מערב אפריקה) תבעה בבית הדין הבינלאומי לצדק את מיינאמר על הג'נוסייד הנטען.

    הואיל וכך, היא הייתה זכאית לתבוע בארה"ב, את פייסבוק, להסגיר לידיה חומרים או מידע, אשר העיד, שהשלטונות בבורמה/ מיינאמר, הסיתו האוכלוסיה המקומית, לג'נוסייד על המוסלמים שם, הכל דרך פוסטים בפייסבוק.

    המידע עצמו, נמחק בעיקרון (ציבורית) על ידי פייסבוק, אבל, היה שמור כמובן עדיין.

    והשופט במחוזי פדרלי של קולומביה, נעתר בעיקרון לבקשה.

    כלומר:

    השימוש המפתה, המהיר, הדיגיטלי, בפייסבוק, מייצר פיתוי לשימוש בו, על ההמונים, ומפליל דיקטטורים ומשטרים עריצים וכדומה. בנסיבות אחרות, היה הרבה יותר קשה להוכיח כדבר הזה, או לשים ידך, על תיעוד וראיות.

    אז זוהי זוית מסויימת, קשה מאוד, שיש לשים לב אליה.

    הסתה לג'נוסייד, הינה פשע בינלאומי יש לציין. זוהי העמדה לדין למעשה, על ג'נוסייד ממש.

    כאן אפשר לקרוא בג'וריסט על כך, ולינקים שם לפסק הדין וכדומה:

    https://www.jurist.org/news/2021/09/us-court-requires-facebook-to-reveal-information-about-its-role-in-myanmar-violence/

    תודה

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *