כששסתומיו מתקצרים | קינדל ואלן טורינג

בינתיים, אחרי כל הדיון הפורה שנערך אמש בבלוג, אמאזון נכנעה להוצאות הספרים והחליטה שרק סופרים שיבקשו זאת במפורש יוכלו לאפשר הקראה בקול רם של הספרים (טיעון מצחיק לכשעצמו) והטכנולוגיה שוב נחסמת מיידית על ידי בעלי אינטרסים כלכליים. [ויובל כתב על זה גם]

אולם, דווקא הטיעון של ניל גיימן בזכות אמאזון היה מרתק. הויכוח בעצם התחיל כאשר רוי בלנט טען כי האלגוריתמים של הקראת טקסט מחליפים את הAudioBooks. לדבריו, יכולות ההקראה המתקדמות שקיימות כיום פוגעות בפרנסתם. גיימן, מנגד, שלח את קוראיו להאזין לספר נקרא על ידי מקצוען ואמר (ואני חוטא כשאני מתרגם את גיימן לעברית) "ודמיינו עולם בו אדם מתיישם עם רומן על [ה]מסך ומקודד בזהירות כל תו וצבע של קולו, כל רגע, דמיינו את הזמן המעורב ואת המאמץ המושקע ביצירת משהוא כזה, ללא קשר לכמה טוב זה יהיה, [זה] עדיין לא יהיה טוב כמו אדם קורא את זה; לא מדובר ב[ללמד] מחשב לשחק שחמט".

הטקסט של גיימן, לצערי, חוטא לאמת ומזכיר לי את דבריו של פרופ' ג'פרסון ליסטר, מהמתנגדים הגדולים לתפישת הבינה המלאכותית של אלן טורינג, שאמר (שוב אני חוטא בתרגום, קראו את המקור): "לא עד שמכונה תוכל לכתוב סונטה או להחלין קונצ'רטו עקב מחשבותיה ורגשותיה, ולא על ידי נפילה מקרית של סימנים, נוכל להסכים שמכונה שווה למח – כלומר, לא רק לכתוב זאת אלא לדעת [להכיר – י.ק] שהיא כתבה זאת. שום מכשיר לא ירגיש (ולא יאותת בלבד, השוואה מכשירית) עונג מהצלחותיו,צער כששסתומיו מתקצרים, יחומם מחנופה, יתאמלל משגיאותיו, יוקסם על ידי סקס, יכעס או יהיה מדוכא כשהוא לא ישיג את מאוויו."

השגיאה של ליסטר וגיימן היא הגיונית, היא אינדוקציה שהטכנולוגיה הקיימת לא יכולה להתפתח אלא בצורה ליניארית, ושהיכולת של מערכות מחשב לנתח טקסט לא תהיה לעולם טובה מספיק. אבל מה אם היא כן? מה יקרה אחרי שנקדם את הטכנולוגיה מספיק כדי להקריא סונטות בצורה אמיתית, ונלמד מחשב להכיר כאב ולכתוב סונטות כאלה? האם אז עדיין גיימן יתמוך בטכנולוגיה או שהוא יתקפל?

19 תגובות ל-“כששסתומיו מתקצרים | קינדל ואלן טורינג

  1. תיקון קטן: פיסקה שלישית, "נוכל להסכים" :)
    בינתיים נראה שגילדת הסופרים עוקבת ומבצעת גם את השגיאות הקלאסיות של ה-RIAA וה-MPAA, החל ב-DRM, המשך ב-Text to Speech וכלה במחירים.
    ההמשך בטח יהיה מעניין..

  2. ביום שטיעונו של ניל גיימן יתרוקן ממשמעות, משמע שתהיה לנו מכונה שמבינה רגשות ויכולה להביע אותם בדיבורה המסונתז, מכונה שבוודאי תעבור את מבחן טיורינג ותחשב לבעלת רגשות ואולי גם מודעות עצמית. עד אותה הנקודה אפשר יהיה לזייף אינטונציות אנושיות אבל אף פעם לא בצורה משכנעת ב100%.

    לצורך הענין, את כתבי דאגלס אדמס וג'.ק. רולינג מקריא סר סטיבן פריי עם דקויות נהדרות של חיקוי ורגש בתיאורים ובדיאלוגים. לכשיצא הקינדל שידע לזייף הקראה בצורה משכנעת ומהנה שכזו, אני אהיה מאושר ומפוחד כאחד. המשמעות תהיה שיהיה הרבה יותר קל לעבוד על אנשים בטלפון בקולות חבריהם, יקיריהם ועמיתיהם, לזייף הקלטות של אנשים ועוד הרבה סכנות אחרות. זכויות ההפצה וזכויות היוצרים תהיינה אחרונות הבעיות ביום ההוא.

    אם מישהו מתבלבל בין קינדל לקולו של פריי, לא מגיע לו יותר מהקינדל.
    אם מישהו מבדיל אבל מעדיף את הקראת הקינדל על פני קנייה כפולה, שיבושם גם לו, הוא לא היה קונה את המוצר השני ממילא.
    אם המו"לים חושבים שאנשים לא מקריאים לעצמם ספרים כבר עשור וחצי עם כל מקינטוש סוג ז', אז הם טפשים או שקרנים.

    לי אישית ברור שכאן מדובר בקנאת סוכני סופרים בכלל ובאמאזון בפרט. אני לא אתפלא אם יסתבר שיש כבר מכשיר קריאה דומה כמו של סוני או אחד האחרים שמציע כבר היום את הפיצ'ר אבל אנשים לא שמו לב כי אמאזון זה הפיל במרכז החדר.

  3. עירא,
    זו בדיוק הסוגיה: האם ביום שתהיה לנו בינה מלאכותית חזקה מספיק כדי להקריא ספר המציאות שלנו תהיה זהה? לא.

    לדברים כמו זכויות יוצרים בכלל לא תהיה משמעות; לדברים כמו 'רגש' תהיה משמעות אחרת ולדברים כמו 'חוויות' נצטרך להמציא עולם אחר.

    אני לא חושב שהיום יש אדם אחד שיתבלבל בין פריי לקינדל, אבל אני מאמין שיהיו כאלה שיהנו מהקינדל בעתיד.

  4. כוונתי לומר, בעצם, שביום שבו זה יהיה הנושא על הפרק, הדיון בזכויות היוצרים יהיה אחר לחלוטין, כי גם עורכי הסרטים יתלוננו שיש בינה מלאכותית שעורכת במקומם, מלחינים יתבעו למנוע הלחנה מלאכותית במשחקיםמ שמתאימה את עצמה טוב מתמיד לאקשן על המסך, ובאופן כללי כל מה שנדבר עליו כרגע כבר לא יהיה רלוונטי.

  5. תחשוב על זה:
    כל מכונה פועלת בתוך עולם סגור של התוכנה שלה. כל דבר שנוצר בתוך העולם הזה עובד לפי עקרונות שתוכנתו ע"י בני-אדם. אף מכונה לא יכולה להפר את החוקים שלפיה היא בנויה (למשל, להחליט "לטעות" בחישובים), כלומר לעשות בדיוק את מה שמגדיר את התבונה.
    בקיצור, תבונה מלאכותית אמיתית לא אפשרית.
    כדי ליצור דבר כזה, תצטרך להבין לעומקם את העקרונות שעומדים מאחורי התבונה האנושית שלנו (העמדה שלפיה רדוקציה כזאת אפשרית בכלל היא בהחלט לא מובנת מאליה), וזה, עם כל הכבוד, לא אתגר טכנולוגי בעיקרו.
    נכון שמגוחך לחשוב שאנחנו יכולים לדעת לאילו כיוונים (לא) יתפתח המדע והמחשבה, אבל יש סיבות טובות להאמין שהתבונה לא יכולה לדעת את עצמה עד הסוף.

  6. דומני שההתעסקות בשאלה האם ספר מוקרא בידי הקינדל שווה-ערך או לא לספר מוקרא בידי אדם מחטיאה את הנקודה. גם בהקראה של בני אדם, יש בני אדם מוכשרים יותר בהקראה ומוכשרים פחות. קחו למשל תלמיד ממוצע בכיתה ז' שמקריא פרק תנ"ך (אני מניח שאתם עדיין צעירים דייכם כדי לזכור ולהתחלחל). נניח שתלמידים מסויימים יחליטו שאם ממילא הם מקריאים את זה, הם יכולים להקליט את זה ולמכור למוגבלי קריאה ב-10% מהמחיר של אמאזון. האם יש כאן או אין כאן פגיעה בזכויות יוצרים? נראה לי שניל גיימן יודה שיש. אז למה בקינדל, שאיכותו בוודאי עולה על של תלמיד תיכון ממוצע, אין?

  7. א. אם אכן הטכנולוגיה תהיה כזו שמחשב בעל בינה ורגש יוכל להקריא סיפור, אזי ראוי שניתן יהיה לתבוע את המחשב עצמו על הפרת זכויות יוצרים.

    ב. אם החשש הוא כי מישהו ימכור הקלטה של הקינדל, למה שלא יתבעו את אותו האדם? הלא כיום כל אחד יכול להקליט את עצמו מקריא ספר בעזרת מיקרופונים ואף אחד לא תובע לחסום כל מכשיר המסוגל להקליט משהו. האוטומציה היא הבעיה? כבר ציינו לפני שקול מסונתז קיים בכל מחשב עבור מוגבלים.

    ג. הקינדל מבצע המרה של טקסט לאודיו ולא יצירה נגזרת. הוא יבצע זאת בצורה זהה 1000 פעמים ברציפות. למעשה, אם אני אצטרך לקנות קובץ אודיו שיוצר על ידי מכשיר קינדל, כבר מוטב לי לקנות מכשיר כזה וזהו. אני לא יכול לקנות לי סטפן פריי משל עצמי. (והוא באמת מעולה, יש לי קלטות שלו בבית)

    ד. יש בקינדל פונקציה שמגדילה את גודל הפונט? אפשר לתבוע אותם גם על זה? אפשר לדרוש כסופר שהטקסט שבספר שלי יוצג רק בפונט 8 כדי שכבדי הראייה המנוולים ישלמו לחוד על הגרסה המוגדלת (בשקל תשעים, אבל העקרון הוא מה שחשוב.)

  8. עירא \ נחום: אם הקינדל יוכל להקריא ברמה של סטבין פריי זה יהיה הישג נדיר. אבל זה יהיה הישג נדיר גם אם _אני_ אוכל להקריא ברמה של סטיבן פריי. אבל הקינדל (או כל מחשב) יעבור את מבחן טורינג הרבה לפני סטיבן פריי – מספיק יהיה לו להקריא ברמה _שלי_.

    עידו: בינה מלאכותית לאו דוקא נוצרת על ידי כתיבת תוכנה מכוונת דטרמיניסטית. ישנם פרויקטים של בינה מלאכותית שעובדים היטב למרות שלא לגמרי ברור איך הם עושים את זה. הנקודה שלי היא שזה לא כל כך מופרך כמו שאתה טוען. אני משוכנע שעוד נגיע למכונות שמאד יבלבלו אותנו במבחן טורינג.

    אלירם: החשש הוא לא שמישהו ימכור הקלטה של קינדל, אלא שהרבה אנשים יוותרו על קניית ספרי-אודיו, המוקראים על ידי אנשים, לטובת הקינדל. השיטה לתקוף את אובדן ההכנסה הזה הוא לטעון שההקראה של הקינדל אינה חוקית.

  9. יהונתן,

    דבר ראשון, זה לא "ג'פרסון ליסטר" , זה מה שג'פרסון אמר ב"נאום ליסטר" – Lister Oration בעת קבלת פרס ליסטר – http://en.wikipedia.org/wiki/Lister_Medal

    יותר חשוב, אתה מפספס ומערבב כאן מספר דברים:
    הטיעון של גיימן הוא טיעון טכני גרידא, ואני מסכים איתך בזה: הוא טוען שלעולם לא תהיה מכונה שתצליח לקרוא ספר בקול כפי שאדם עושה זאת. לא הייתי בונה על זה, והשאלה כאן היא טכנית בלבד.
    הטיעון של ג'פרסון וכל הויכוח על מבחן טורינג אינם רלבנטיים כאן. מה שג'פרסון טוען הוא שלא משנה כמה מדוייק תצליח לחקות את ההתנהגות האנושית, עדיין זה לא אומר כלום על התודעה הסובייקטיבית שלה. אתה אומר "נלמד מחשב להכיר כאב" – איך תדע אם הוא מכיר כאב או לא? כל מה שאתה יכול לדעת זה מהם תגובותיו לכאב.
    כיוון שלתודעה הסובייקטיבית יש אפקטים שמתבטאים בתגובות הפיזיקליות, והאדם, לדעתי, אינו יכול להיות מוסבר באמצעים מכניים של גירוי ותגובה כמו שחשבו התמימים שהאמינו בעולם המכניסטי הניוטוני עד להפצעת תורות היחסות והקוונטים, לעולם לא תוכל מכונה לחקות באמינות בן אנוש. אבל זאת ספקולציה. גם אם כן תוכל, ברור שלא נוכל לומר כלום על תחושותיה הסובייקטיביות, ולכן זה חסר משמעות לדבר על תודעה של מכונה.

    מי שחושב בצורה ליניארית הוא מי שחושב שאם מחשב יעבור את מבחן טורינג הוא יהיה

  10. אמיר: מגוחך לטעון שאנשים יוותרו על קניית ספרי אודיו לטובת הקינדל. כפי שהסביר גיימן, אנשים שקונים קינדל לא עושים זאת כדי להנות מחוויית ההקראה, אלא בגלל שקשה להם מסיבות אלו ואחרות לקרוא את הספר הכתוב והם מעדיפים שהקינדל יקריא אותו עבורם. מדובר בשני מוצרים שונים שאין תחרות אמיתית ביניהם.

    הבעייה העיקרית, אבל, היא לא השאלה הזו. השאלה האמיתית היא האם יש בהקראת טקסט באמצעות מכונה משום הפרת זכויות יוצרים. בשאלה הזו לא נגע גיימן. לצורך השאלה הזו, אין זה משנה אם המכונה עברה את מבחן טיורינג או לא, משום שגם אם היא תעבור מבחן כזה או אחר, היא עדיין תישאר מכונה. כבר כיום, כפי שציינתי, יכולותיה של המכונה עולים על זה של תלמיד תיכון ממוצע המקריא פרק תנ"ך. למרות זאת, הקלטה של תלמיד תיכון היא הפרת זכויות יוצרים ואיל הקינדל לא, כפי שהסביר זאת קלינגר כאן.

  11. חבל שאמזון לא מספיק חכמים כדי לרתום את ארגוני הירוקים ומחבקי העצים לצידם.

  12. נחום: אני מסכים איתך שזה מגוחך, אבל עם זאת חשבתי (בזמנו) שזאת הדאגה מאחורי התביעה. מאז קראתי יותר לעומק את הדברים ואני מבין שטעיתי.
    לגבי עניין הפרת זכויות יוצרים: אשאיר את ההבנה המשפטית ליהונתן, כי לבד לא הייתי יודע להגיד אם חוקית זאת הפרה או לא. זה נשמע לי מגוחך שהקינדל עושה משהו לא חוקי במקרה הזה, אבל כך גם נשמעים לי רוב הפטנטים על תוכנה (למשל התביעה של מיקרוסופט נגד טומ-טומ – חלק מהפטנטים שמיקרוסופט קיבלה שם הם פשוט בזיון בעיני).

  13. ראובן: הרעיון מאחורי מבחן טורינג הוא שאם תהיה מכונה שתעובר אותו, איך תוכיח אם יש או אין לה תודעה סובייקטיבית? באותה מידה איך תדע אם ה_אדם_ שעומד מולך מכיר כאב? כל מה שאתה יכול לדעת גם לגביו זה התגובות שלו.

    אגב, גם מכונה, כמו האדם, נתונה לאותם אפקטים פזיקילים של היקום שלנו, בין אם זו תורת היחסות או מכניקת הקוונטים, או תורת המיתרים כל תורה שעוד לא הגיע אליה המין האנושי. אז מה ההבדל בין המכונה האנושית למכונה הנבנית על ידי בן-אנוש? לא ברור לי (ואולי מבורות) שאפשר להגיד שאי אפשר או שלעולם לא יהיה אפשרי לבנות מכונה עם תודעה.

  14. זה לא קשור לתחרות על עבודתם של מקריאי הספרים. אם מחשבים יכולים להחליף אותם בהרבה יותר יעילות ולכסות כך טווח רחב בהרבה של ספרים, אולי המקצוע של הקראת ספרים פס מן העולם והוא כבר לא יעיל. כמו הרבה מקצועות אחרים, הוא עבר אוטומציה.
    (אם כי וויל וויטן הוכיח בבלוג שלו שאנחנו לא שם)

    אני לא משפטנית, אבל כשאני קונה ספר בכל פורמט שהוא הציפיה שלי היא לקבל את הזכות לגשת למידע שבו. אם קוראים ספר קומיקס עם משקפי שמש מקבלים תמונה בצבעים אחרים, וגם זו כביכול יצירה נגזרת, אבל זה לגיטימי. זה לשימוש אישי, בסופו של דבר.
    ואם ספרים ימכרו לפעמים עם משקפי ראיה, האם לגיטימי לדרוש שלא אקרא ספר עם המשקפיים שלי? כי אני גוזלת מהכסף שירוויח הספר?

    וזה חלק ממה שגיימן אמר, האמת, בקשר לזכותו להקריא את הספר באופן פרטי וכו'.

    נחום: הבעיה בדוגמה שלך עם הילדים שמקריאים ומפיצים היא שהתוכן – העלילה והניסוח – מופץ בלי לשלם תמלוגים לכותבים.

  15. ailaG,
    זה נכון שהזכות להקראת הספר לעצמי (ולילדי, ולחברים שלהם בגן) מעוגנת בחוק במסגרת "שימוש הוגן".
    אבל הזכות שלי ללכת עם הספר ל"לשכת המקריאים", לשלם כסף לעדם על מנת שיקליט לי את הספר על מנת שאוכל להאזין לו כל עת שארצה — איננה.

    ואני חושד שלזה רוי בלונט חתר כשדיבר על הפרה של זכויות יוצרים.
    זה לא בעל הספר או בא-כוחו, כי אם שירות בתשלום שאמאזון כביכול מספקים.

    אני לא מסכים איתו, אבל אני חושב שזו הכוונה.

  16. "מה יקרה אחרי שנקדם את הטכנולוגיה מספיק כדי להקריא סונטות בצורה אמיתית, ונלמד מחשב להכיר כאב ולכתוב סונטות כאלה?"

    אני לא מאמין שזה יקרה אי פעם.

    וזו לא טעון אינדוקטיבי וזה לא השלכת ליניאריות על התקדמות טכנולוגית.

    זו הכרה בגבולות הבינה המלאכותית.
    לעמדה הזו קוראים Weak AI (ר"ע ג'ון סרל), ויש סיבות טובות לקבל אותה (אני לא רוצה להיכנס לדיון של Strong vs. Weak AI פה בבלוג שלך, אבל די ואומר שיש טעמים רציונליים וסביריים לגמרי ביותר לקבל את העמדה הזו. אתה לא חייב, אבל אם אתה בקיא בעמדה הזו אתה מוכרח להסכים שהיא לא חסרת הצדקה כלשהי).

לא ניתן להגיב