0.

אבולוציה היא תהליך איתי. לקח מיליוני שנים להגיע להומו סאפיאנס. דורות של שינויים אקראיים מיקרוסוקופיים מביאים לשינויים בגוף. לצד התהליכים האבולוציוניים, שמתקדמים לאט לאט, ישנם תהליכים סביבתיים של שיפורים באיכות החיים, איכות המזון, הרפואה. כולם משפרים את האדם. כך, ניתן לראות שהאדם הממוצע גבוה יותר היום מאשר לפני 300 שנים, חכם יותר, חזק יותר, חי יותר שנים. הטכנולוגיה היא אבולוציה בדרכים אחרות. והיום, עם מה שקורה עם טכנולוגיית מנועי השפה הגדולים ("בינה מלאכותית", הרי), אנו רואים שהוצאנו חלק מהאבולוציה אל המכונה. אבל לא רק שהוצאנו חלק מהאבולוציה למיקור חוץ, אלא שיש עם זה כמה דברים מדאיגים.

1.

האבולוציה כותבת את עצמה. מי שכותב את הקוד של מנועי השפה הגדולים הם מנועי שפה גדולים בעצמם. אנשים עסוקים בלדבר על העתיד של התעסוקה, כשהם צריכים לדבר על העתיד של האבולוציה. למה? כי אם לא נעצור ונסתכל על תהליכים אבולוציוניים ("החזק שורד" זו לא האמירה הנכונה, מזכיר לכם), אז נבין מה קורה כשעסוקים בלייצר בינה שהתפקיד שלה היא להיות הכשירה ביותר, להיות זו שמפותחת אבולוציונית הכי טוב. בעצם, ה"ברירה הטבעית", הדרך שבה האבולוציה מאפשרת לאלו שמכילים את תנאי הכשירות הטובים ביותר לשרוד, יכולה לפעול כשיש מיליוני שחקנים: כשיש מיליוני קופים ורק הקוף שיכול לקלף את הבננה בגלל אגודלים קצת יותר מנוגדים מצליח לשכנע את הקופה שכדאי לה להתרבות איתו, וכך לאורך מאות דורות אנו נראה איך האגודלים הופכים לכלי יותר דומיננטי שמאפשר יצירה של כלים.

2.

אם רוצים לראות איך האבולוציה עבדה והקריסה את עצמה כשהיא היתה על סטרואידים אפשר להסתכל על זני כלבים מסוימים שעוצבו. הבולדוג הצרפתי, לדוגמא, הפך בגלל התכנון התבוני של בני האדם לגזע שיש לו בעיות לא קטנות להתרבות וללדת, וגם הפך לאחד הגזעים עם תוחלת החיים הקצרה ביותר. והכל תוך 150 שנים של הרביה מתוכננת. עד כדי כך שיש מגדלי כלבים שעובדים על דבולוציה. בסך הכל למדנו כמה האבולוציה נדפקת כשהאדם מתערב ולא נותן לה לעשות את דרכה. ואת אותו הדבר נראה, עוד שניה, עם מנועי שפה גדולים.

3.

למה זה כל כך חשוב? כי מנועי השפה הגדולים עוברים כרגע תהליך. קודם כל; אין להם תהליך רביה. הם לא מתרבים אחד עם השני אלא לומדים אחד מהשני. הם גם כותבים את הקוד האחד של השני ומייצרים אבולוציה בעצמם. הם גם, להבדיל מאורגניזמים, לא מכילים קהילות, לא רבים במספר. אבולוציה היא כח של מיליונים, מיליארדים. אבל כשיש עשרות מנועי שפה גדולים בלבד בכל העולם, האם אפשר ללמוד על אבולוציה מהם? האם קהילה של משפחה אחת תוכל לייצר אבולוציה שבה החזק שורד? ובכן, כשיש הרבעה פנימית אנחנו עשויים לסיים עם בית הבסבורג של הבינה המלאכותית: יהיו כל כך הרבה פגמים גנטיים שזה כבר לא יהיה מנוע שפה גדול, אלא פגם גנטי דיגיטלי.

(כאן)