(cc) Dplanet::

במסגרת המחקר שלי לקראת ההחלטה הגורלית האם אני כותב את התזה שלי כדי שאוכל להרחיב אותה לדוקטורט או להשאיר את התענוג לחו"ל, בו אתענג עם אגוזי קוקוס וספרי משפט, אני נתקל תמיד לאחר הצגת השאלה באותה התשובה: "אבל זה ברור שאין להם אישיות משפטית, למה בכלל לחקור". ואז אני מציג טענה מאוד כללית: "ונניח שמערכת רמזורים בעירייה מסוימת מופעלת על ידי רשת ניוראלית, ומתהליכי הלמידה של דפוסי התעבורה היא מחליטה החלטה שגויה ובעקבות ההחלטה ילד נדרס, האם באמת ראוי להטיל את האחריות על המתכנת, מהנדס העירייה, הקבלן הראשי או אף אחד?" ואז מגיעה התשובה הסטנדרטית: "זו באמת סוגיה מעניינת, בהצלחה במחקר".

למי שלא זוכר, אני הולךרוצה לחקור על "מודלים באישיות משפטית של יישויות עם בינה מלאכותית". כשהטלת האחריות אינה בהכרח הדבר היחיד שיכול לקום, אלא אולי גם זכויות וחובות, ולכן החלטה מצמררת כמו הכנסת מערכות ממוחשבות ל"סיוע" בקביעת עונש (גם אצל הלמו) קצת מפריעה בהתחשב בהשלכות שיש לה.

כשבודקים את יחס הענישה בארץ רואים שהוא מפלה עוד מעצם קיומו. בעצם, בכדי לתקן את האפליה נכון להכניס מערכת קרה ונטולת אישיות, שלא תפלה (בניגוד למערכת המשפט) במגדרים ולאומים הן בשיעור ההרשעות והן בענישה עצמה. אבל, המחיר של ענישה מוטעית מוטלת הן על האדם הפרטי והן על השוק. להחמרת הענישה, או ההקלה בה, יש השלכות, אך הן אינן מעניינות כמו הפקעת הסמכות (או שיקול הדעת) מהאדם שמהווה את זרועה הארוכה של המדינה.

כבר הזכרתי בעבר שההשלכות של עבודה עם מכשירים מפקיע חלק משיקול הדעת ועל כן יש לפתוח את התכנה, תכנה זו פתוחה למחצה, תוך שניתנן מפרט, אך לא אלגוריתם. מקריאת המפרט המלא של התוכנה עולה תמונה מאוד בעייתית. מדובר במחקר שנעשה ב15 נחקרים, כשהמובהקות הסטטיסטית מתחילה להתקיים רק לאחר שלושים, לא היה מידע על התאריכים בהם בוצעו העבירות הקודמות של המורשעים (כלומר אין אפשרות לדעת האם חזרו למוטב לתקופה מסוימת) והשיקולים עמדו על מספר קריטריונים מוגבל. בהנחה שתוכנה זו תשוכלל עד לקיומה של רשת ניוראלית שתחשב את הענישה האידיאלית, יווצר כאן סטנדרט שאין לחרוג ממנו – והשאלה תהיה האם הסטנדרט יהיה לחומרא או לקולא.

(cc) Jamres_Grimmelmann

כלומר, שני תרחישים אפשריים – הראשון הוא שאף שופט לא יגזור מעבר לעונש המומלץ, ואולי בטווח של סטיית תקן או שתיים מהעונש כלפי מטה, על מנת להחשב שופט מקל, רחום והגיוני. השני הוא ששופטים יחרצו דין מעבר להמלצה על מנת להתחשב בשיקולי מערכת ולהראות כי המחשב אינו מפקיע את שיקול דעתם והם מזועזעים מהעבירה עצמה. כל אחת מגישות אלו תגרום למדרון חלקלק שיפריע למהלך הענישה.

הרי הרקורסיביות באלגוריתם עצמו היא בעייתית. המערכת ממליצה על סמך נתונים סטטיסטיים שבנויים על הענישה כיום, כשזו ככל הנראה בעלת התפלגות נורמאלית כלשהי בנוגע לכל עבירה, תוך שההתפלגות הנ"ל מושפעת בצורה זו או אחרת מאותם שיקולים שנבחנו במחקר. לכן, התוצאה במחקר היא ממוצע כלשהו של הפסיקות הקיימות; אותה תוצאה יפה בכדי לחזות עונש, אולם דווקא השימוש בחיזוי זה יצור דרדור בענישה (או למעלה או למטה, כשזה לא משנה – ואסביר בהמשך למה לדעתי הדרדור יהיה כלפי מטה).

מצד אחד, כל שינוי כלפי מטה יכול להטות את ההחלטות העתידיות של המכונה ולשנות את מבנה הרשת העצבית כך שזו תטה כלפי מטה. מצד שני, כל הטיה כזו כלפי מטה רק מנמיכה את תקרת הזכוכית של הענישה; (כשאותו דבר יתרחש בענישה מחמירה, אך למען הנוחיות אני מאמין שמדובר בענישה מקלה). כעת שיקול הדעת של השופט כבול לאותו נתון, מבלי שיש לו את החופש השיפוטי לשנותו. היוריסטיקת העיגון לא תאפשר זאת, פשוט כך.

כעת יגרם מצב שבעקבות אותה היוריסטיקה לסנגור יהיה גם את העונש החזוי, והוא יבוא לשופט ויטען לנסיבות מקלות שהן חיצוניות לתוכנה. אם לא יקומו כאלו, יגזר על הנאשם העונש המומלץ; מצד שני אם יקומו כאלו, הענישה תהיה חמורה. אולם, כמו מחיר המחירון של רכבים, שלא מייצג את מחיר המחירון אלא בדרך כלל את המחיר המקסימאלי (שכן אף אחד לא "פרייאר" לשלם יותר ממחיר מחירון) כך יהיה גם בענישה.

עכשיו, אם מחיר המחירון של רכבים היה מבוסס על שקלול נתוני עסקאות קודמות ולא על על בסיס החלטה שרירותית של סטטיסטיקן שחוזה את השוק ומעריך את התנהגותו (ובכך יוצר אותו) אזי להשלכת שינוי מחיר המחירון היתה משמעות אחרת – היו חייבות להיות עסקאות של נכס מושלם (כזה ללא רבב ושעומד בדרישות המחירון) הן במחיר גבוה ממנו והן במחיר נמוך ממנו (עם סטיית תקן מסוימת). אולם, במקרה המשפטי להחלטה של השופט יש השפעה על "מחיר המחריון של עבירה" ולכן כל החלטה של השופט מתחת לאותו מחיר מחירון תוריד את מחיר המחירון.

כעת, לאחר שהבנו מדוע "מחיר המחירון" ירד, לדעתי, צריך להבין מהי התועלת לחברה בתוכנה זו, והאם לא ראוי להותירה לבחינה סטטיסטית של כשלי השופטים בצורה תקופתית – ולא לתת אותה לשופטים.

אם היינו לוקחים את אותה "קופסת הקסמים" ובוחנים באמצעותה את הרגרסיה של שופט מסוים, מבלי לתת לו את הנתונים, ורק אחת לשנה לתת לו ביקורת ענישתית – כלומר לבחון האם סטה יתר על המידה (לקולא או לחומרא) ולתקנן את עונשי הנאשמים בהתאם לכך בצורה כללית (אפוסטפריורי), היינו מבצעים תקנון סטטיסטי של הענישה בדיעבד, מבלי להשפיע על החלטות השופט באינטרבאל נתון. בצורה כזו ניתן היה לא לשנות את הסוברניות הכללית, אלא לשמור על אותו ממוצע.

שופט שידע שהוא חורג בשנה מסוימת אולי יתקנן את הענישה שלו בצורה אוטומאית, והוא ידע שגם אם לאו, פקטור מסוים של שינוי יובא בתום החלטותיו כך שיותאמו לאוכלוסיה הכללית ולא יצרו אפליה.

(cc) nyghtowl

באותה צורה, של ענישה יחסית, ניתן יהיה למיין את העבירות על בסיס חומרתן ולהותיר את העבריינים הכבדים ביותר עם העונשים החמורים ביותר. החברה, בעצם, תהיה עם ענישה יחסית שמאפשרת תמונת מצב של היחס של החברה לעבריינים לפי משקל העבירה, ולא לפי גחמה של שופט מסוים שעשוי לשגות בקביעת העונש (כמו גם בהרשעה). אכן, רק כך יהא הצדק באמת עיוור ולא סומא בלילה

Technorati Tags: AI, Artificial Intelligence, Law, Statistics, Software, Crime, Penology