תוכנת "Deepfakes" מעוררת תהיות רבות בתחום החברתי, אבל יותר מהכל היא הולכת לשבש את עולם המשפט. למי שלא מכיר, תוכנת Deepfakes מאפשרת לטול פנים של אדם אחד, ולהלבישם על סרטון כאדם אחר. בעוד שהתחביב הראשי של משתמשי התוכנה היה פורנוגרפיה (מה שהביא לחסימה של השימוש באתר Reddit), הרי שיש לא מעט שימושים לגיטימיים ומדאיגים לתוכנה.התחביב המעניין של משתמשי התוכנה היה להשתמש בה כדי להוסיף את פניו של השחקן ניקולאס קייג' על כל סרטון אפשרי.

השימוש המדאיג אבל, שגורם לכל מה שהכרנו בעולם המשפט להתגמד, הוא מה יקרה ברגע שהטכנולוגיה הזו תהיה יותר שימושית. תחשבו על הראיה הטובה ביותר שהכרתם: מראה העיניים שלכם. לולא ראיתם כולכם את אלאור אזריה יורה במחבל בוידאו, הרי שכל הדיון על האם הוא הרג, רצח, עשה מעשה הגנה עצמית או שהמחבל קם מהמתים ורטט כזומבי, היה הופך מדיון של הצגת העובדות כשכל צד מפרשן, לשאלה מה היו העובדות.

אבל קחו את המקרה הבא: פעיל חברתי טוען כי תפרו ל ו תיק, כי ערכו צילומים בצורה מגמתית והציגו אותו. האם הדבר יכול להתרחש? ובכן, לפעמים כן. האם תוכנת Deepfakes תוכל לשנות את הדרך שבה מוגשים סרטונים לבתי משפט? התשובה היא לא. החוק כבר עכשיו קובע דרכים להגשת סרטונים. בפועל, יש בחוק הגדרה של כיצד להגיש ראיות ממוחשבות (1, 2); אבל מה שקורה הוא שבתי המשפט מקבלים את המוצג בפניהם תמיד כאמת. צילומים הם ראיה מצוינת, אף אדם לא יניח כי מסמך שמוצג בפניו אינו אותנטי, במיוחד כשהוא רואה בעיניו את העבירה מבוצעת.

אך הסכנה בDeepfakes היא בדיוק זו. העין שלנו לא תוכל להבחין, יותר, בין אמת לדמיון, בין מציאות לבין עריכה. רק כאשר נבין זאת נוכל להבין את הבעיה הרצינית. אנחנו לא יכולים להאמין לעיניים שלנו; כל סרטון שנראה, כל צילום שנראה, יכול להיות ערוך, יכול להיות מעובד, יכול שיהיה אחרי ששונתה המציאות. גם אם נראה סרטון שבו פוליטיקאי מקבל שוחד מאיש עסקים נצטרך לשאול האם הסרטון עבר מניפולציה.

היופי של Deepfakes הוא לא האפשרות לשנות; את זה תמיד עשינו, אלא שהאלגוריתם עושה את זה טוב מתמיד. משתמש כמוכם וכמוני הצליח לשפר את הטכנולוגיה של אולפני לוקאס, בהם הושקע מאות מיליוני דולרים, ושחזר את פניה של קרי פישר המנוחה בצורה טובה יותר מאשר האולפנים בסרט Rouge One. התוכנה הזו, שמאפשרת שינוי של המציאות, מאפשרת גם לחשוב שוב על מהי ראיה. האם אנחנו צריכים לחשוב על ראיות וידאו כאמינות עדיין לאחר שראינו את שראינו?