האם יש לנו יתרון מהותי על פני מערכות הבינה המלאכותית?
אז, מה מותר האדם מן ה AI?
(או מה AGI).
מזהירים אותנו שוב ושוב על כך שה AGI יקח לכולנו את העבודה.
שהוא ידע הכל על הכל.
יהיה חכם כמו בן אדם.
והשאלה עולה כל הזמן - האם האדם באמת עדיף מהרובוט?
אז…
ספרי מד”ב הם לא בהכרח מקור ההשראה הטוב ביותר, אבל הם כנראה המקורות הכי ותיקים שהתמודדו עם השאלה הזו, ואני רואה בהם מקור לרעיונות מעניינים.
אם נלך לאייזק אסימוב, אחד מגדולי סופרי המד”ב, הוא מתייחס לכך לא מעט. בספר “כתבי אייזק אסימוב - חלק 2” יש שני סיפורים (עוקבים): “תחושת הכוח” ו”המכונה שניצחה במלחמה”.
ב”תחושת הכוח”, מסופר על כך שהאנושות מגלה מחדש איך לחשב חישובים מתמטיים (אפילו בסיסיים, ככפל) בעצמה, ללא תלות במחשב. רק נייר ועיפרון. (אגב, בסיפורים אחרים שלו, בגלל שהאנושות משתמש במחשבים, היא שוכחת גם איך לכתוב). תושבי כדור הארץ מתלהבים מכך מאוד, מכיוון שזה יאפשר להם לנצח במלחמה.
משתי סיבות:
הראשונה, מוזכר שה”אדם חכם יותר” עם כל מיני רמזים למה הכוונה, נדון בזה בהמשך.
השניה, צינית להחריד. אדם זניח ממחשב, אומר הגנרל, ולכן עדיף לשים בטיל אדם שינחה אותו (וימות…) ולא מחשב.
זה ככל הנראה הכיוון שעליו חושבים היום, כשמדברים על סכנות ה AI. שהמחשב ישמיד אותנו בעצם.
אבל אם נלך לכיוון השני…
בסיפור השני, מפורט קצת יותר.
יושבים שם כמה טכנאי מחשבים והגנרל.
כולם מהללים את “מולטיוואק” (מחשב העל שמופיע בעוד הרבה מסיפוריו של אסימוב) שעזר להם לנצח במלחמה.
ואז אחד מהם, הטכנאי הראשי של מולטיוואק אומר.
זה לא רק המחשב. המחשב הוא רק מכונה שמעבדת נתונים. ואם הם לא נכונים?
אז כל פעם שהגיעו אלי נתונים, בדקתי מה נראה לי הגיוני ומה שלא, תיקנתי.
הטכנאים האחרים, שכל אחד מהם הוא טכנאי של מכשיר אחר בשלב איסוף הdata, אומרים את אותו הדבר. ואז הגנרל אומר, גם הרבה פעמים המחשב לא הספיק לי. לא סמכתי עליו, השתמשתי בשיטת “חישוב” עתיקה.
עץ או פאלי?
אנחנו כבר מתחילים להריח את הכיוון…
המחשב בסך הכל מעבד data ומנתח אותו לפי כללים נוקשים. כן, גם AI וAGI. האדם יכול להחליט איזה data להביא, איזה כללים לנסח,
איך להכניס אותו והאם לבצע תיקונים. ובסוף - האדם הוא זה שמכריע על סמך הרבה משתנים שונים.
יש עוד לא מעט סיפורים עם עקרונות דומים של אסימוב, למשל סיפור שבו המחשב מתכנן תוכנית שמפעיליו לא אמורים לדעת, אך הוא אינו יודע לשקר ונחשף.
לא הכל נכון (AI מחרטט קבוע…. 😉) אבל העיקרון ברור:
המחשב בסך הכל הוא מכונה לוגית.
אז בואו נוסיף עוד דבר אחד, מהותי לא פחות.
בספר “חולית – הג’יהאד הבטלרייאני” של בריאן הרברט וקווין אנדרסון, אחד הרובוטים מנסה לחקות בצורה מושלמת את האדם.
הוא נכשל שוב ושוב.
הוא מלחין יצירה מדהימה, אבל היא ללא עומק.
הוא מצייר ציורים נהדרים, והם מרגישים מלאכותיים, על אף שהם נראים בדיוק אותו הדבר כמו האנושי.
ואז, אחת מגיבורות הספר, אומרת לו -
מה שחסר לך, הוא רגש ויצירתיות. אתה בסך הכל (וזה הגדרה מדהימה לAI!) אוסף כמויות אדירות של מידע, לוקח רסיסים שלהם ומדביק אותם ביחד. אתה לא באמת יוצר משהו מ0.
זה נראה זניח. אז ה AGI לא ייצר ציורים יצירתיים. מה אכפת לנו? (ואל תרדו איתי לקטנות, נכון שהציורים של חלק ממערכות הAI מדהימים ממש. קחו את העיקרון.)
אבל אם נחבר את זה לטענה מספרי אסימוב…
המחשב, שבסך הכל מעבד data, לא יכול באמת לענות על הכל. העולם הוא לא רק לוגי.
צריך את האדם, שנברא לתוך העולם הזה, עם כישורים להתמודדות איתו.
איזה דברים, למשל?
יצירתיות, חשיבה מחוץ לקופסא, רגש…
כל עוד המחשב ישאר מכונה שמבצעת סדרה של תהליכים לוגיים ומסודרים, אנחנו נהיה עדיפים עליו.
האם זו תהיה המציאות לנצח? לא בטוח.
אה, הערה קטנה 😉
תמונת הפיתחה של הפוסט ג’ונרטה עם Leonardo.ai, על ידי פרופמט ששופר באמצעות Gemini. מה אני אגיד לכם?
לפי התגובות, בעיקר של Gemini, הוא לא שש לשתף פעולה עם הטיעון שהאדם עדיף על ה AI…