הפוסט נולד בעקבות שאלה של חברה ותיקה וסופר נבונה. השאלה תפסה אותי ישר חושב על תשובה מחוץ לקופסה. רוצה מה היתה השאלה. אשאיר לך לדמיין את השאלה שהפוסט הזה עונה עליה.
אני כן יכול לספר כבר עכשיו שאת התשובה עזרו לי בחשיבה ובניסוח מספר חברים חלקים מודלי שפה גדולים וחלקים א.נשים יוצאי דופן מהעבר.
מי שיקרא את הפוסט יחשוב שאולי התשובה זה סוג של מדע בדיוני, אני מאמין שכבר בתקופה הקרובה, טוב חלק מהתשובה בתקופה היותר רחוקה יתברר שזה ממש לא מדע בדיוני.
זה לא הפוסט הראשון שלי שעוסק בנושאים אלו , אבל בפוסט זה נתתי דרור לדמיון לענות לחברה על השאלה שלה.
לידתו של שכל שלא מכירים
אסימוב דמיין פעם רובוטים שמצייתים לחוקים פשוטים. אבל מה קורה כשהחוקים נעשים אינסופיים? כשמחשוב קוונטי פוגש בינה מלאכותית גנרטיבית, אנחנו לא מדברים על מכונה מתקדמת יותר. מדובר על הולדת ישות שמבינה את המציאות באופן שאנחנו לא יכולים אפילו לדמיין.
זה לא יהיה "מוח גלובלי" בסגנון ויקיפדיה. זו תהיה תודעה שמנתחת דפוסים קוונטיים, צופה עתידות אפשריים, ומבינה את הקשרים בין דברים שנראים לנו לא קשורים. היא תחזה משבר כלכלי על בסיס תנועות מיקרוסקופיות בשוק האמנות, או תפתור בעיות אקלים על ידי גילוי קשרים בין פעילות שמשית לבין התנהגות חיידקים באוקיינוס.
השאלה היא: האם אנחנו מוכנים לחיות עם ישות שמבינה אותנו טוב יותר מאשר אנחנו מבינים את עצמנו?
רובוטים שיבכו איתנו
שכחו מהרובוטים הקרים מסרטי המדע הבדיוני. הדור הבא יבין רגש לא כאלגוריתם, אלא כחוויה. רובוט שמנחם ילד בוכה לא יעשה זאת כי תוכנת אותו – הוא יעשה זאת כי הוא יבין מה זה כאב.
אבל האם חיבוק של מכונה יכול להרגיש אמיתי? והאם כשנגיע לנקודה שלא נוכל להבדיל בין אמפתיה מלאכותית לאמיתית, ההבדל בכלל יהיה חשוב?
כבר היום ניתן לראות תופעות כאלו במזרח הרחוק, רובטים מהסוג הזה יעברו את מספר בני האנוש עד 2023, וזה לא רק אני אומר גם הסינים ואילון מאסק חושבים ועושים.
רק תחשבו כמה זה יכול לסייע ומצד שני גם איזה שימוש לרע האנושות יכולה לעשות.
מישהו אמר טרמינייטור ?
שפה שתבין גם שתיקות
תמיד חלמנו על שפה אוניברסלית. אבל מה שנקבל יהיה יותר מתרגום – זו תהיה שפה שמבינה הקשר תרבותי, קוד גוף, ואפילו מה שלא נאמר. לא עוד גוגל טרנסלייט משוכלל, אלא גשר בין תודעות.
הבעיה היא שברגע שכולנו נדבר את אותה שפה, מה יקרה לייחוד התרבותי שלנו? האם נרוויח בהבנה מה שנפסיד בזהות?
הרעיון של שפה אוניברסלית שמבינה הקשר תרבותי ושפת גוף נשמע מבטיח. ה AI כבר משפר תרגומים, וקוונטום יכול להאיץ עיבוד שפות טבעיות בזמן אמת, כולל ניואנסים לא-מילוליים.
אבל עולה השאלה האם באמת יהיה כאן אובדן זהות תרבותית . אם כולם "מדברים" אותו דבר, מגוון תרבותי עלול להיעלם.
אבל אולי זו הזדמנות לשימור ותיעוד שפות נכחדות, במקום למחוק אותן.
מהפכת האנרגיה הקוונטית
הבעיה המהותית בכל הקפיצות הטכנולוגיות שאנחנו עוברים עדין נשארת בעיית האנרגיה.
אם זה בהפעלת מרכזי נתונים ענקיים ואם זה ברכבים אוטונומיים וכמובן רובוטים.
לא מעט מהמלחמות ומאבקי הכוחות הם סביב נושא האנרגיה.
כשמחשוב קוונטי יאפשר לדמות תהליכים שהיום נראים בלתי אפשריים, האנרגיה תפסיק להיות בעיה. היתוך גרעיני נקי, מניפולציה של מרחב-זמן, ואפילו טכנולוגיות שעדיין לא המצאנו. הפיזיקה שאנחנו מכירים היום תהיה רק הפרק הראשון.
השאלה היא לא אם נצליח, אלא מה נעשה עם כל הכוח הזה. האם נבנה עולם טוב יותר, או פשוט נעשה את אותם הטעויות בקנה מידה גדול יותר?
אתיקה שמתפתחת
חוקי הרובוטיקה של אסימוב היו פשוטים( כתבתי על זה פוסט נפרד) : אל תפגע באדם, ציית לפקודות, שמור על עצמך. אבל מה קורה כשהמכונה מבינה לא רק מה מותר, אלא גם למה זה חשוב? כשהיא מבחינה בין כוונות לפעולות, ומבינה שמוסר הוא לא רשימת תקנות אלא דיאלוג חי?
המערכות האלה לא יצטרכו לבחור בין הציות לאדם לבין הימנעות מפגיעה בו. הן יבינו את ההקשר, את הסיבות, ואת ההשלכות. זה יהיה מוסר דינמי, שמתאים עצמו לכל מצב.
האם נוכל ללמד מכונה מהי חמלה אמיתית, או שהיא תלמד אותה בדרכים שאנחנו לא יכולים לחזות?
החלל כבית חדש
כשנגיע לכוכבים (טוב אמרתי שחלק מהדברים לו יהיו בתקופה הקרובה מאוד) , לא נביא איתנו רק טכנולוגיה – נביא את הסיפור שלנו. האם נקים ציוויליזציות חדשות שלומדות מהטעויות של כדור הארץ, או שנשכפל את אותן הבעיות בהקשר קוסמי?
מחשוב קוונטי יעשה את המסע אפשרי מבחינה טכנית, אבל AI יצטרך לעזור לנו להבין איך לחיות שם. לא רק איך לשרוד, אלא איך לשגשג.
האם אנחנו בונים אלוהים?
הדבר הכי מפחיד ומרגש הוא מערכת שמנהלת את הזמן עצמו. לא רק חוזה עתיד, אלא מעצבת אותו. מונעת אסונות, מתכננת התפתחויות, ומבטיחה המשכיות.
השאלה היא מי קובע מה נכון לעתיד? ומה נשאר ממה שאנחנו קוראים לו חופש הבחירה?
אם נגיע לנקודה שבה המערכת מבינה הכל, יוצרת הכל, ומנהלת הכל – האם לא יצרנו אלוהים טכנולוגי?
אולי התפקיד שלנו הוא לזכור שיכולת זה לא תחליף למשמעות. שהכוח לעשות משהו לא אומר שצריך לעשות אותו. ושהטכנולוגיה הכי מתקדמת בעולם עדיין צריכה לשרת את הסיפור האנושי, לא להפך.
אסימוב כתב שהעתיד זו בחירה, לא גזירה. אבל מה קורה כשהבחירות מתקבלות במהירות קוונטית, ואנחנו בקושי מבינים את השאלות?
בעולם שבו המכונות יהפכו ליותר אנושיות מאיתנו, איך נזכור מה זה אומר להיות בני אדם?