בפעם הראשונה בה אתה נתקל בטכנולוגיה מתקדמת אתה נעצר ואומר לעצמך ואוו; אתה לא שואל על ההשלכות אלא עוצר רגע ובודק: איך אני יכול להשתמש בטכנולוגיה הזו. אני בטוח שכשראיתם בפעם הראשונה ספר טלפונים הלכתם לבדוק אם אתם מופיעים בו; אחר כך בדקתם אם חבריכם שם, ורק לאחר מכם התחלתם לדון בהשלכות. השלבים של התמודדות עם טכנולוגיה חדשה אינם שונים בהרבה מכל יישום בחיים: קודם כל משחקים איתו, ורק לאחר מכן מדברים על ההשלכות.
לפעמים, פליטת פה של אדם מסוים יכולה לגלות הרבה על הטכנולוגיה שהוא מחזיק ולא תמיד ידעת על קיומה. כך, צוות כנסת פתוחה חשף אתמול כי למשטרה ישנה תוכנה שמעידה על 'מידת מסוכנות' של גברים שהתקבלו כנגדם צווי הגנה על נשים; לדברי המשטרה:
הכלי הזה בעצם הוא כלי מדעי שאיש המשטרה צריך למלא בו פרמטרים שהם יחסית אובייקטיביים. הם לא תמיד אובייקטיביים לגמרי אבל הם אובייקטיביים יחסית ואם הוא מזין את כולם והוא נותן למחשב לעשות עבורו את החישוב, אז לפי מחקר שעשינו התוקף של הניבוי של הכלי הזה הוא מאד גבוה ואנחנו משתמשים בכלי הזה.
אני לא מכיר את הכלי, ולא בדקתי אותו, אבל הכלי הזה מוכיח אחד משניים, אם הוא עובד (ואני בכוונה לא רוצה להכנס לMinority Report כאן): או שהוא מייתר את תפקיד השופט בצווי הגנה או שהוא מפר את החוק. צווי הגנה ניתנים בדרך כלל מכח חוק מניעת הטרדה מאיימת; החוק עצמו, שלא זכה ליותר מדי פסקי דין מנומקים, מאפשר הליך מהיר בו אדם החש מוטרד (לדוגמא, אישה מוכה) לקבל צו שיתן לה הגנה מהמטריד. היתרון בצו מסוג זה הוא שאותו מוטרד יוכל כעת לפנות לעזרת המשטרה ולאסור על אותו מטריד להתקרב אליו. הסיבה לכך היא, כנראה, שבלי צו של בית משפט, המשטרה לא תטרח להתייחס לאזרח שמרגיש מאוים.
כעת, התוכנה שנמצאת בידי המשטרה כנראה מספיק טובה כדי לדעת מתי השופט טעה ולא היה צריך לתת את הצו. התוכנה לוקחת את המדדים האובייקטיביים ויכולה לדעת, הרבה יותר טוב מהשופט, האם האדם מסוכן או לא. לכן, צריך לשאול מדוע כלל צריך את השופט? האם יש מקום למבחנים האובייקטיביים בפסיקה כדי לבדוק הטרדה מאיימת (לדוגמא, הט 35318-04-11 פלוני נ' אלמונית או הט 15212-06-11 ס.ר. נ' י.ר.). שופטים לא אמורים ליתן צו הטרדה סתם כך; בעניין ס.ר פסק בית המשפט כי "דרך החשיבה ולפיה "אם פלוני מעוניין להטריד את אלמוני, מן הראוי שיוצא צו נגדו, ואם הוא אינו מתכוון להטרידו, מה אכפת לו שיהיה נגדו צו?" היא פסולה בעיני". כלומר, בית המשפט נותן צו לאחר ששוקל ובודק ומוצא ראיות.
כך שאם התוכנה שנמצאת בידי המשטרה עושה עבודה טובה יותר, יש צורך לבדוק מדוע יש צורך עוד בחוק למניעת הטרדה מאיימת.
מנגד, אם התוכנה מחליפה את שיקול הדעת האנושי של בית המשפט ואומרת לשוטרים מתי הם יכולים שלא לקיים את מצוות בית המשפט ולא לעמוד ולהגן על מוטרדים שנמצאים בסכנה, הרי שהמשטרה נותנת יד לפעילות לא חוקית. גם המשטרה יכולה לעבור על החוק, וכדי שתזהר במעשיה.
עד שהעלת את הטענה למה התוכנה רעה לא חשבתי על זה בכלל.
חשבתי רק על זה שהיא מספקת אינדיקציה למשטרה אצל מי היא צריכה לבדוק לעיתים תכופות יותר האם הכל בסדר או לצורך העניין לעקוב אחרי המטריד כמה ימים ולוודא שהוא לא מתקרב וכו'.
כמובן, שאני ככל הנראה יותר מדי אופטימי (פוליניה אופטימית? תעשה פרינטסקרין ותפרסם ברחבי העולם!)
לא נראה לי שזו טכנולוגיה חדשה במיוחד. הרושם שלי הוא שזה בסך הכל מודל סטטיסטי (ככל הנראה רגרסיה לוגיסטית) שנותן ניבוי/ניחוש אינטליגנטי להסתברות שאדם מסויים יהיה מסוכן. טיב המודל הוא לא יותר מטיב הנתונים ששימשו לבנייתו, ובדרך כלל פחות מכך, כיוון שהוא מבליע בתוכו מגוון הנחות שהן לא תמיד בהכרח מדוייקות.
ההחלטה שמבצע השוטר (בהתאם להנחיות הממונים עליו), עם עזרת הכלי הזה או בלעדיו, היא החלטה ניהולית שמבטאת איזשהו ניהול סיכונים, ונזכור כי גם בעולם מושלם בלתי אפשרי להפחית את כל הסיכונים לאפס. אם ההחלטה היא רשלנית או בלתי חוקית, בודאי שיש לדרוש מהאחראים לתת על כך את הדין.