האם היה זה מוסרי לתת את השיקול ללחיצה על הדק למכונות? זו שאלה נוספת הנוגעת לבינה מלאכותית. אחרי שבני האדם ויתרו על מקצת ממנגנוני קבלת ההחלטות בחברה לטובת המחשבים, עולה השאלה האם ראוי לתת את הזכות לגדוע חיי אדם לרובוטים? שאלה זו כבר אינה תיאורטית יותר. הויכוח עוד מצטמצם ככל שהזכות המוסרית לסירוב פקודה של חייל קטנה, והחיילים מבצעים את פעולותיהם כמו רובוטים.
| סאמסונג, אותה חברה שמפתחת טלפונים וחלק ניכר מהציוד ההיקפי שאתם ככל הנראה משתמשים בו, מפתחת כיום בעזרת אוניברסיטה קוריאנית רובוטים שיוצבו באיזור המפורז בין הקוריאות וישמידו כל חשד למסתננים, פורעי חוק ובני אדם בכלל שיראו חשודים. ואם כל זה לא מספיק, אני משוכנע כי רובוטים אלו עושים גם פחות שגיאות מאשר חיילי צה"ל בכל שנוגע להרג אזרחים חפים מפשע. |
אבל האם החברה מוסרית מספיק בכדי לאפשר לכזה דבר להתרחש. רצח ללא משפט בצורה המובהקת ביותר. אם עד עכשיו פקודות ירי בוצעו בזהירות ותוך נהלי פתיחה באש, ניתן להיות סמוך ובטוח כי אותן פעילויות יבוצעו כעת בדיוק לפי הספר. הבעיה בביצוע החוק בדיוק לפי הספר, ללא כל אפשרות לפרשנות, היא שבמקרים כאלו מתרחשות טעויות מוסריות.
לתת שיקול דעת בידי רובוט הוא משהו שאנו, כבני אדם, רגילים לעשות בכל יום ויום. אבל אנחנו, כחברה, מעוניינים להגן על עצמנו לא רק מטעויות, אלא גם מכלים שיכולים להזיק לנו בדיעבד. איש אינו מודע בכלל לסכנות שיש בפריצה למערכת המחשבים של הצבא שתפעיל את אותם הרובוטים. האם פריצה כזו יכולה להביא למרד רובוטים אכזרי שיגרום לסיומה של האנושות?
 (cc) killbox |
ובכלל, מה המרחק מכאן ועד לקיומן של מכונות יריה מצוידות בחיישני תנועה על כל גדר בית? האם אין כאן מדרון חלקלק בדרך לבטחון האישי המוגזם שלנו? האם בארצות הברית תיקון כזה לחוק, שיאסור על המוצרים האלו ושימוש בהם, יחשב לא חוקתי כיוון ששם לכל אזרח הזכות לשאת נשק (וגם הזכות, בחלק מהמדינות, לירות בפולשים). האם המרחק מכאן ועד מעבר לצבא רובוטים, שלא מקבל שיקולים קרים, שלא מוכן לסרב לפקודה בלתי חוקית בעליל, ושניתן לקנות בכסף, לא רחוק? הרי, אם כל מה שיהיה דרוש בכדי לנהל צבא הוא מספר רובוטים ואיש שיטווה את המהלכים, מה הסיכוי שזה יסרח? כמה גנרלים בכלל סרחו בתולדות ההיסטוריה? |
ויה סלאשדוט.
Technorati Tags: AI, Artificial Intelligence, Korea, Robot, Sentinella
בתקופה שלא היו מחשבי ירי הטעויות וחוסר הדיוק היו גדולות יותר, תעויות קורות למי שעושה, נסה לגור בשדרות ימים מספר "כצאן לטבח", היו עשרות מקרים של ירי ארטילרי על כוחותינו עקב טעויות באימונים ולא בלחץ קרב. בניגוד לכוונה המוצהרת של הצד שאתה מצדד שמטרטו היא לפגע ולהרוג ללא כל קשר האם הנתקף פעל כנגדו או למענו,בהיסטוריה אין מקרה דומה שיותר מ-50% מהנפגעים בפעילות בשטח אזרחי עוין הם טררוריסטים בהגדרת הצד השני
מערכות דומות (אם כי הרבה פחות משוכללות) היו מותקנות גם על הגבול שבין מזרח גרמניה ומערבה.
אני לא יודע אם זה יותר טוב או יותר רע, אבל זה בכל מקרה לא מעודד.
תחשוב על היתרונות –
1. ככה התליין לא יסבול מ-PTSD
2. או בעצם האבא של 1. – עכשיו אף אחד לא אשם, זה הרובוט
ועכשיו ברצינות. האם גם בקוריאה הכסות הביטחונית משמשת למניעה/ שליטה בהגירה?
מישהו יכול להגיד כמה מסתננים יש בגבול וכמה מהם ראויים לככב על כוונות הרובוט (סוכני אויב אכזריים עם כוונה ברורה להרביע את בנות הדרום החסודות בקומוניסמוס ז'ונג אילי חסר מעצורים).
אבאשלו,
אל תשכח שצה"ל הוריד בהתמדה את טווח הביטחון של הירי – היתה ידיעה של הארץ עוד לפני המלחמה שלפיה, דה פקטו בתי התושבים נמצאים בתוך טווח הביטחון – כלומר, בגלל חוסר היכולת לטפל ב"תאים הסרטניים" (הם סרטניים לטעמי דווקא לחברה שלהם אבל ניחא) מפציצים את הגוף בלי אבחנה בכימו כי…. הממ, אין לנו משהו יותר טוב להציע ואסור שיחשבו שאנחנו לא מגיבים – ידו הארוכה של צה"ל…