והאנשים האלה הולכים לטפל בטביעת האצבע שלנו

0.
רק בחלם זה יכול לקרות. אמש התגלה כי מספר לא מבוטל של חולים קיבלו תוצאות שגויות של בדיקות רפואיות מבתי החולים שטיפלו בהם, העניין נחשף במהלך בדיקה שגרתית של חיילת שתוצאותיה שנשלחו לרופא היו דווקא של אדם אחר, חולה כליות. למרות הקוריוז המצחיק ולמרות שלא מדובר במקרה נגרם בו נזק כלשהוא, עדיין מדובר במקרה שהיה יכול לעלות בחיי אדם אם חולה היה מקבל טיפול על סמך מידע רפואי של חולה אחר.

1.
אכן, מדובר 'רק' בחמש תקלות מתוך מיליונים של בדיקות, אולם, כמו כל סיפור טוב, כאשר מוסיפים פרט מידע קטן אחד, כל הסיפור הופך למעניין: החברה שהפעילה את התוכנה שאגרה את הפרטים הרפואיים היא HP. אותה חברה שזכתה לאחרונה במכרז להפעלת מערך תעודות הזהות החכמות וככל הנראה תחזיק את הנתונים הביומטרים של כל אחד מאיתנו. אכן, עשר שנות התנהלות מכרז לא מבטיחות שהוא יהיה חף מבעיות, אבל די ברור כבר היום שאותם אנשים שיחזיקו את המאגר עשויים לפשל.

2.
ונתעלם לרגע מהשאלה מה יקרה לו כשהמאגר ידלוף לאינטרנט ונדרש לשאלות קשות כמו 'מה יקרה כשאדם יזוהה לרגע אחד כמי שביצע פשע' [או, "יותר גרוע": יזוכה מכל אשמה למרות שהוא ביצע פשע] בגלל אותה שגיאת מחשב. הרי "המחשב לעולם אינו טועה", אך העברת הליך בחפזה עשוי לגרום לכך שהצרות שראינו היום עם הרשומות הרפואיות יהיו כלום לעומת העתיד לבוא. דמיינו מה יהיה קורה אם החזון של רשומה רפואית לאומית היה מתגשם ותכפילו אותו פי אלף: היעילות היתה נעלמת מצד אחד, ואנשים היו עשויים לקבל טיפול רפואי רשלני, בגלל תוכנות מחשב.

3.
כשאינטרסים כלכליים הם אלו שבשורה התחתונה שומרים על המידע הפרטי ביותר שלנו, אין לנו על מה להתלונן. אותה רגולציה שפועלת על החסכונות שלנו תשמור  גם על המידע הפרטי שלנו. מדינה, מנגד, רוצה את המידע כדי לקדם אינטרסים אחרים. בשנת 1998 הגישה האגודה לזכויות האזרח בג"צ נגד שר הפנים כיוון שזה רצה לחבר בין מרשם האוכלוסין לרשויות המס (בגץ 8070/98 האגודה לזכויות האזרח בישראל נ' משרד הפנים) טענת האגודה היתה שאותה גישה היא בלתי חוקתית ופוגעת בפרטיות כיוון שהיא מאפשרת לכל פקיד גישה למידע הפרטי ביותר של כל אזרח. בית המשפט, בין היתר, קיבל את העתירה כיוון שהמדינה יכלה היתה לקיים את התכלית הראויה [מניעת הלבנת הון, באותו המקרה] על ידי אמצעים שפוגעים פחות בפרטיות:

דעת לנבון נקל, כי הפרקטיקה המתוארת בתשובות המדינה והבנקים אינה עומדת במבחן הפגיעה הפחותה. שכן, העברת המידע לגופים ציבוריים אינה מוגבלת אך לאותם עובדים הזקוקים למידע לצרכי עבודתם.[…] דרישת המידתיות מחייבת למזער את הפגיעה בזכות לפרטיות, על-ידי צמצום מספר עובדי הציבור הנגישים למידע; על-ידי צמצום היקף המידע שנמסר, כך שיועבר רק המידע הדרוש; ועל-ידי קביעת היקף המידע בהתחשב בחשיבות התכלית שלשמה הוא נדרש.

4.
כשעובדים שיש להם גישה למידע מוכרים מידע פרטי על אזרחים, וכשהסיכוי להתפס על כך הוא אפסי, עולה השאלה מהם האמצעים הטכנולוגיים שיגבילו את הדליפה של המידע. על פי החוק החדש תהיה גישה למידע ללא מעט אנשים. וכשיש גישה למספר לא מצומצם של אנשים, דברים כמו הדיון הבא בכנסת מתרחשים:

היו"ר אופיר פינס-פז: […] כל מאגר מנהל האוכלוסין באתר אינטרנט פרוץ ופתוח לכל דיכפין, שאפשר להיכנס אליו בצורה הכי קלה ולאתר כל מידע על כל אחד מאתנו. מנהל האוכלוסין, בזמנו – מר גנות סיפר סיפור שהוכח כלא נכון. הוא חשד שהמידע הודלף על ידי אחת המפלגות. הסתבר שלא היא, כי מה שפורסם באתר אין למפלגות., המפלגות מקבלות מידע מקוצץ. לכן אני דרשתי […] שמנהל האוכלוסין יגיש תלונה למשטרת ישראל לפתוח בחקירה מאיפה דלף המידע.
חזי שאשא:[…] בחודש מרץ הודיעו לי שהתיק נסגר, העבריין לא נודע, אין חשוד ספציפי. […].
יוחנן פלסנר: אבל היתה פריצה למאגר המידע של מנהל האוכלוסין?
היו"ר אופיר פינס-פז:אני לא בטוח. אני מעריך שההדלפה נעשתה באמצעות אחד ממשרדי הממשלה שמקבל, לא מהמנהל עצמו. מה עם האתר הזה? […]
יורם הכהן: […]מאגר המידע הזה מסתובב ברשתות – בי-טורנט, כלומר: מישהו יצר אפליקציה, תוכנה שמחפשת, והאפליקציה הזו, מאגר המידע, פלוס התוכנה שמאפשרת איחזור מידע מסתובבת ברשת באינטרנט. זה לא שיש איזשהו מאגר מידע שאליו אתה פונה ובו אתה מבצע את השאילתה. אתה פשוט מוריד את מאגר המידע אליך למחשב, ועושה את זה באופן לוקלי. (דיון בועדת הפנים, 30.10.2007)

5.
אכן, חברי הכנסת לא צריכים לרדוף אחרי המדליפים או לחפש את הפרצות, הם גם לא צריכים להעסיק עצמם במהי הטכנולוגיה הנכונה על מנת למנוע דליפה של מידע; חברי הכנסת צריכים להיות אמונים על שלום הציבור, וככאלה אסור להם לאפשר את המאגר הביומטרי בישראל.

28 תגובות ל-“והאנשים האלה הולכים לטפל בטביעת האצבע שלנו

  1. מרגיז אותי כל פעם מחדש טעות מחשב שהיא פחותה בהרבה מטעויות אנושיות סבירות יוצרת אליהום כזה.

    צריך לשאול האם מערכת המחשוב חסכה או הוסיפה טעויות מעבר לעבודה הידנית. ככה אפשר להעריך נכונה את משמעותו של המחשוב.

    במנותק מזה שלא צריך לבנות מאגר ביומטרי.

  2. הסעיף הראשון לא הוגן כלפי רופאים. אתה יוצא מנקודת הנחה שרופאים הם עם של אידיוטים שעובדים על אוטומט. רופא גם קורא את התוצאות ומנתח אותן. תוצאות לא תואמות למציאות מרימות דגל. בדיוק כפי שקרה כאן.

    הסעיף השני לא הוגן כלפי HP. אתה טוען שתהיה פשלה במכרז התעודות החכמות רק משום שHP מעורבים במערכת המעבדות ובמכרז התעודות החכמות. לפי אותו קו מחשבה, מטריקס צריכים לסגור את הבאסטה משום הפשלה בבחירות המוקדמות של העבודה. פשלות נגרמות על ידי אנשים ולא על ידי חברות. אתה מטיל בהם דופי לפני שמישהו כתב אפילו שורת קוד אחת. ואולי דוקא המקרה הזה ילמד אותם פרק בהלכות בדיקת מערכת והם יוכלוו על סמך הלקחים שנלמדו לבנות מערכת טובה יותר?
    שיהיה ברור, אני מאוד לא בעד מערכות שאוספות מידע בצורה ריכוזית בדיוק מהטיעון שהבאת, שקל מדי להזליג את המידע החוצה. אבל אני לא בעד להטיל דופי בצורה גורפת.
    ואני לא רופא ולא עובד של או קשור לHP.

  3. אבים,
    HP מבחינתי היא רק דוגמא לכך שתוכנות מחשב עשויות לעשות נזק, בדיוק כמו שבני אדם מסוגלים. אבל, העובדה שחברה יכולה לאפשר כזו טעות אומרת משהו על סטנדרט הניהול של מערכות המידע. אני לא רואה הבדל בין הדליפה הזו לבין כל שימוש לא חוקי אחר במידע. לא בכדי המטרה של חוק הגנת הפרטיות היא להגן על המידע הפרטי שלנו ובצדו סנקציה פלילית.

    אגב, היית הולך לניתוח אצל רופא שידעת שרשלנותו גרמה למותו של חולה?

  4. אני חושב שההשוואה שלך לרופא שרשלנותו גרמה למוות היא דמגגוגית משהו.
    לא הוכחה כאן רשלנות מצד HP. תקלה כן.

    השאלה הנכונה היא האם רופא שאחוז התמותה של חולים בניתוחיו נמוך הוא זה שתרצה או רופא עם ממוצע שגיאות רגיל.

  5. איל,
    ההשוואה היא בכוונה מוקצנת. אבל: "עוד עלה מבדיקת משרד הבריאות, כי המקור לתקלה הינו במעבר תשובות המעבדה מהמערכת הממוחשבת של המעבדות למערכת המידע הניהולית של בית החולים (הנמ"ר)."

    כלומר, אם בדיקת משרד הבריאות אומרת שהארכיטקרטורה של המערכת בעייתית, אז למה לא להגיד שהיתה רשלנות?

  6. ההבדל הוא שרשלנות רפואית היא מונח משפטי ,דבר שאני בטוח שאתה מבין טוב ממני, בעוד שמה שקרה כאן זו תקלה. ותקלות קורות בכל מערכת מורכבת – ממוחשבת או לא.
    אתה רוצה לאמר שלולא היתה המערכת ממוחשבת היו פחות תקלות מ-5 בתוך מליונים כפי שטענת?

    בכל מקרה זה לא קושר את הבעיתיות של תקלה למה שאתה כותב על המאגר הביומטרי.

  7. "דעת לנבון נקל", איזה ניסוח, חשבתי שאת המשפט הזה אפשר למצוא רק בספרי שו"ת של דוסים וכדומה. מעולה.

    אני מבין שזה כיף לתקוף את מי ש"זכו" במכרז למאגר הביומטרי, אבל זה רלוונטי רק במעט יותר מאחד הטוקבקים שציין שמפיצת שמועת הבמבה מהנדסת בHP… זו כן שיטה טובה להדגים איך גם חברה גדולה ובעלת שם עלולה לייצר מוצר קריטי עם באגים שעלולים להביא לתוצאות הרות גורל, כי, דעת לנבון נקל, אין מערכת ממוחשבת בלי באגים.

  8. מטריקס צריכה לסגור את הבאסטה כי היא חברת אאוטסורסינג מעאפנה שפועלת מהתנחלות שמשתלטת על השטחים של בלעין. (ראה המאמר של גדי אלגזי בנושא, "מטריקס בבלעין"). לא ידעתי שהם אלה שהיו אחראים על הפאשלה. עכשיו הכל ברור. המתכנתות העייפות, שחששו לבצע "גזל" בבעלי המפעל, עשו שגיאה.

  9. אתה בא וטוען שמשום שקרתה תקלה במערכת X ושאותה חברה תהיה אחראית (בעתיד! המערכת עוד לא קיימת!) למערכת Y הרי שהמאגר מראש מיועד לזלוג לידיים לא מורשות. אני לא משפטן אבל לדעתי אתה רץ פה על פי התהום החלקלקה של הוצאת דיבה.

  10. אבים,
    אני אומר שעיצוב רשלני של מערכת X, והעובדה שמערכות מסוג Y ידועות לשמצה מבחינת פרטיות, אומרת שאם מי שעיצב את מערכת X יעצב מערכת Y אז צריך להזהר.

  11. אבים,

    כשחולה עם אנגינה מגיע אל הרופא עם תיק רפואי של חולה סרטן, הרופא בטוח שם לכך לב.

    אבל מה עם פצוע תאונת דרכים -רגיש לפניצילין- שמגיע אל חדר המיון, ולאחר שמזהים אותו באמצעות טביעת האצבע שלו, מגיעים אל המסקנה שאין לו שום רגישויות?

    ועד כמה כל אחד מאיתנו היה מוכן להיות סלחן, אם הפצוע הזה היה אבא שלו?

    שבת שלום וחג שמח!
    דותן

  12. לכל מערכת צריכות להיות מערכות לבקרה. במקרה של מערכת לניתוב תוצאות בדיקה הבקרה מבוצעת על ידי הרופאים. בניגוד ליהונתן שהניח (בפיסקה הראשונה) שרופאים עובדים על אוטומט, אני יוצא מנקודת הנחה שהם קוראים את התוצאות ומשווים עם מאגר הידע האישי שלהם שנצבר בשנות הלימודים והעבודה שלהם. זה בדיוק מה שקרה-רופאה שמה לב שהתוצאות לא הגיוניות ופעלה מיידית.
    אני מסרב להיכנס לפניקה. שאלת את עצמך מה היה קורה לו במעבדה היו מבצעים בדיקה בצורה שגויה והתוצאה היתה מתקבלת שגויה? המערכת היתה מעבירה אותה בצורה תקינה אבל עדיין התוצאה שגויה. רופא אמור לשים לב לזה. אם זו היתה טעות אנוש במעבדה, אף אחד מכם לא היה מתלהם בצורה כזו. כי טעויות קורות. גם בדיקות המעבדה מכילות אחוז מסוים של שגיאה מובנית. מי שמסתמך בלבדית על מערכת אחת הוא אידיוט. בפירוש.

    זה הכל עניין של פרופורציות ושיקול דעת. אני לא בטוח שהפוסט נכתב מתוך שניהם.

  13. אבים,
    אני מנסה להסביר כמה פעמים, אבל זה כנראה לא ברור מספיק: מערכת שמטפלת בנושאים קריטיים לא יכולה לעשות טעויות. זה בסדר שמערכת ההפעלה של המחשב שלך תתקע אחת ליום, אבל לא מערכת שמנשימה חולה. העובדה שלא הושקעו מאמצים מירביים [להבדיל מסבירים] על מנת למנוע תקלות כגון דא הן לא רק בעייתיות, אלא מראות על תכנון רשלני מצד המדינה [ולאו דווקא HP] שלא התעקשה על מערכות קריטיות.

    דמיין מצב שאחד מכל 1,000 מטוסים היה נופל סתם כך באוויר כי "תקלות קורות". האם במקרה כזה היית משתמש במטוסים רק כשהכרחי או בצורה שגרתית? וכשזה הופך לאחד למיליון?

    נכון, יש כאן עניין סטטיסטי. אני טוען שהסטטיסטיקה לא אמורה להיות מיושמת כאשר היא פוגעת בזכויות חוקתיות. אין הבדל בין יישום של מערכת אלקטרונית שאמורה לפגוע בביטוי [כמו סינון אינטרנט] לבין הסתמכות על מערכת אלקטרונית שאמורה לפגוע בחירות של בני אדם [כמו טביעות האצבע שישלחו אותם לכלא]. במקרה כזה HP אחראית בפלילים כלפי הצדדים שיפגעו.

  14. שכחתי עוד משהו, יהונתן.

    אני אומר שעיצוב רשלני של מערכת X, והעובדה שמערכות מסוג Y ידועות לשמצה מבחינת פרטיות, אומרת שאם מי שעיצב את מערכת X יעצב מערכת Y אז צריך להזהר.

    המשפט שלך לוקה בחוסר לוגיות משווע. מי שמעצב את המערכות הם אנשים, לא חברה. אם מי שעיצב את מערכת X שלקתה לא יעצב את מערכת Y, אז מה הקשר? שלשניהם יש רכב עם אותו לוגו מוטבע באחוריו?

    לפי הטיעון שלך, צריך להיזהר ממרצדס S600 משום שהוא מיוצר על ידי אותה חברה שייצרה את הA CLASS.

  15. אבים,
    האנשים הם לא אלו שלוקחים את האחריות, אלא החברה שמספקת את השירותים. החברה מציגה כלפי העולם סטנדרט של אחריות, והיא צריכה לעמוד בו.

  16. התגובה המקורית שלי לא היתה בנושא של סטטיסטיקה, ניהול סיכונים או תכנון מערכות קריטיות. היא נגעה לקפיצה מהירה מדי למסקנות. היא נגעה להפניית אצבע מאשימה לפני ידיעת העובדות כולן:

    "העובדה שלא הושקעו מאמצים מירביים [להבדיל מסבירים] על מנת למנוע תקלות כגון דא הן לא רק בעייתיות, אלא מראות על תכנון רשלני מצד המדינה [ולאו דווקא HP] שלא התעקשה על מערכות קריטיות."

    מאיפה הבטחון הזה? יש לך ראיות לכך שהתכנון רשלני? יש לך ראיות שHP אשמה? שהמדינה לא הכריחה? אתה קופץ למסקנות מהר מדי ועל סמך מעט מדי נתונים. אני מסרב לעשות את זה. כשיהיו נתונים, אם יהיו, אני אעשה את הניתוח שלי. אולי אז אני אצטרף אליך. אולי לא. העובדות יגידו.

  17. לא,
    אין לי ראיות שHP אשמה [להבדיל מ"אחראית"] ואני שוב מפנה אותך לפסקה המקורית, שים לב טוב:

    אכן, מדובר 'רק' בחמש תקלות מתוך מיליונים של בדיקות, אולם, כמו כל סיפור טוב, כאשר מוסיפים פרט מידע קטן אחד, כל הסיפור הופך למעניין: החברה שהפעילה את התוכנה שאגרה את הפרטים הרפואיים היא HP. אותה חברה שזכתה לאחרונה במכרז להפעלת מערך תעודות הזהות החכמות וככל הנראה תחזיק את הנתונים הביומטרים של כל אחד מאיתנו. אכן, עשר שנות התנהלות מכרז לא מבטיחות שהוא יהיה חף מבעיות, אבל די ברור כבר היום שאותם אנשים שיחזיקו את המאגר עשויים לפשל.

    לא אמרתי שHP רשלנית. אמרתי ש(א)החברה שהפעילה את התוכנה שאגרה את הפרטים הרפואיים [שדלפנו] היא אותה חברה שזכתה במכרז לתעודות זהות ביומטריות וש(ב) די ברור שמי שיחזיק את המאגר עשוי לפשל. אתה הוא זה שמשתמש במילה "אשמה" (שכלל לא במקומה כאן) ומחפש את הלוגיקה; אני בסך הכל אומר שצריך להזהר ולחשוש.

  18. יהונתן,
    זה הכל עניים של שימוש בשפה:
    1. "'רק' חמש מתוך מיליונים". נניח 5 מתוך מיליון לשם הפשטות, משום שלא כתוב כמה מיליונים. מדובר פה על אחוז שגיאה של 0.000005 (אם לא נמוך יותר). אחוז השגיאה המובנה בבדיקת ספירת דם רגילה גבוה בלפחות שלושה סדרי גודל, כך שהמערכת הרבה יותר אמינה מהבדיקה אותה היא אמורה להעביר. השימוש במילה רק כאשר היא במרכאות גורם לקורא הסביר לחשוב שאולי יש בעיה עם אמינות המערכת. מבחינתי זה מקביל לשיחה בע"פ בה מיד לאחר המילה רק היית קורץ.
    2. "אבל די ברור כבר היום שאותם אנשים שיחזיקו את המאגר עשויים לפשל." למה עשויים לפשל? למה זה כל כך ברור לך? אתה יוצר פה אשמה מראש: אם יקרה משהו תוכל ללנקק לכאן ולהגיד "אמרתי לכם". ואם לא יקרה כלום, לא נורא. אף אחד לא ישים לב לזה משום שאתה אמביוולנטי. אתה קורץ פעם שניה.

    וזה לא קשור לחוק האווילי של תעודות זהות חכמות. זה ממש לא קשור.

  19. א. למה התבנית בבלוג שלך מאלצת אותי למצוא לינק קטנטן, לטעון עמוד אחר, ואז לגלול לו מטה כל הדרך רק כדי להגיב? בוא תתחבר לקהילה, שדרג עצמך מHP.

    ב. לא הרבה אנשים מודעים לכך, אבל נראה לכאורה כאילו העולם בדרך להתכנסות מדינית-פוליטית-כלכלית שייצר שלטון עולמי מאוחד. כבר רואים אותה זה קורה באיחוד האירופאי, בברית הכלכלית של צפון אמריקה שהעם הקונגר או המדיה לאי אישרו או סיקרו בכלל. וגם ברמה המקומית.
    היכולות הטכנולוגיות הנפלאות שסורגות עצמן בהווי העולם הנוכחי עלולות לשמש כלי עוצמתי מאמונה באלוהים לשליטה מוחלטת על ההמונים.
    דיקטטורות צבאיות עלו בכל נקודה בהיסטוריה שהן רק יכלו לעלות. אתוס לאומי זה או אחר, העם יבלע כלסיפור שיאכילו אותו. אם זה יהודים ופרוגורמוים, או "טרורסטים" בכל מקום.
    בנוסף, כשכל אינטראקציה אנושית מתווכת ע"י ממון, שנוצר מאוויר בידי אינטרסים פרטיים למחצה, וכל תיווך של פעולה נעשהש בחסות הענן הדיגיטלי, אין יותר לאן לברוח.
    הפרטיזנים לא ילחמו ביערות של המאה ה21.

    צריך להגן על האינטרנטו על החופש המוחלט של המידע, הביטוי והשקיפות הארגונית.
    חייבים להגן על האינטרנט.
    אם אפשר, לתרום לויקיפדיה.

    אתה עושה עבודת קודש.
    :)

  20. זה נושא באמת סבוך מאוד, עם הרבה פנים לדבר. האם בכלל יש יתרונות למגר הביומטרי? בוודאי שכן.

    יתרון ענק: הנושא של החולה שמגיע לבית חולים ויש לו את התיק שלו קיים במחשב. זה מדהים.

    מצד שני: ממש לא הייתי רוצה לדעת שכל העולם יודע את כל הפרטים האישיים שלי

  21. אני מצטער להגיד לכם, אבל כל החיים הסתדרתי בלי שאנשים ורופאים בבית חולים
    שידעו את הפרטים שלי. אני ממש מעדיף להישאר אנונימי ברמה של סודי מול כל הרשויות של מדינות ישראל.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *