הפילוסוף ניק בוסטרום מסביר מה ההשלכות של בינה מלאכותית על עתיד המין האנושי
אם תשאלו את ניק בוסטרום, פילוסוף מאוניברסיטת אוקספורד, הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא עניין של זמן. במוקדם או במאוחר המין האנושי יגיע לנקודת מפנה, שבה הטכנולוגיה שהוא מייצר מצליחה ללמוד ביעילות גבוהה משלו. גבוהה בהרבה. התרחיש העתידני הזה מהווה בסיס לסרטי וספרי מדע בדיוני כבר שנים רבות, ואולם, אם תחפשו בגוגל באילו סרטים או ספרים מדובר, תיווכחו באמצעות אצבעותיכם שהתרחישים הללו כבר ממומשים בחלקם. כשמנוע החיפוש של גוגל ישלים את הטקסט שהקלדתם, הוא יעשה זאת על סמך כל מה שהוא למד על הרגלי החיפוש שלכם בעבר. אם זה גורם לכם לנוע בחוסר נוחות בכיסא, זה טבעי לגמרי, כיוון שלדעתו של בוסטרום אכן צפויים לנו אתגרים גדולים והחשש מפני אובדן שליטה בגורלנו אינו בלתי מתקבל על הדעת.
אבל מה שחשוב לדעת זה שיש לנו מה לעשות בנדון. האחריות היא בידיים שלנו וההחלטות שנקבל עכשיו יכולות להיות קריטיות בעתיד הקרוב או הרחוק. על פי בוסטרום, תהליך הפיכת המכונות לחכמות יותר הוא בלתי נמנע וצריך להשלים עם התרחשותו. אבל כל זמן שהשליטה נמצאת בידינו אנו צריכים לחשוב כיצד לבנות בסיס טכנולוגי חיובי, או במילים אחרות, כיצד ללמד את הטכנולוגיה להיות רגישה לערכים של המין האנושי. אם נשכיל לעצב אותה בדמותנו – ברגע שהיא תהפוך לחכמה יותר מאיתנו – הטכנולוגיה תוכל לשרת את הערכים החיוביים של בני האדם טוב יותר משאנו מסוגלים כיום.
תרחיש יום הדין? לא בטוח
ניק בוסטרום מוביל צוות של מתמטיקאים, פילוסופים ומדענים שיושבים באוניברסיטת אוקספורד ומנסים לחקור כיצד יתפתח העתיד של המין האנושי. אחת המסקנות החשובות שהגיע אליהן בוסטרום היא ש"המכונה האולטרה-אינטליגנטית הראשונה, היא ההמצאה האחרונה שהאדם ייצטרך לייצר אי פעם". הוא מתכוון לכך שיגיע הזמן שבו נפתח טכנולוגיה שמתעלה עלינו בבינתה, ומשם היא תיקח את המושכות. התפקיד שלו ושל הצוות שבראשו הוא עומד, הוא להתמודד עם השאלות, התרחישים וההשלכות של עתיד כזה.
בהרצאה מעוררת מחשבה בוסטרום שם את כל הקלפים על השולחן ומצהיר בריש גלי כי המעבר לטכנולוגיה אולטרה-אינטליגנטית מציב סכנות לקיומו של המין האנושי. המשוואה היא פשוטה: כבר היום מחשבים מסוגלים להעביר אותות חשמליים במהירות גבוהה פי כמה מהמוח האנושי. ברגע שהיכולות הללו ישולבו במערכת עם כושר למידה, הטכנולוגיה תחפש את הדרכים היעילות ביותר לבצע את המשימות שלה. היעילות הזאת יכולה לעמוד בניגוד לאינטרסים שלנו.
בסיטואציות מסוימות שבוסטרום מתאר המכונה יכולה לקחת משימה חיובית ולייישם אותה בצורה מאוד שונה מהציפיות שלנו. אם למשל המשימה של מערכת סופר חכמה היא להעלות חיוכים על פניהם של אנשים, היא יכולה לבצע את זה באמצעות הומור. אבל מהר מאוד היא תלמד שיש דרך יעילה יותר לגרום ליותר אנשים לחייך בהרבה פחות זמן. במצב כזה המערכת עלולה להסיק שהביצוע של המשימה צריך להיות דרך חיבור אלקטרודות למוחם של כל בני האדם ושליטה בשרירי הפנים שלהם.
הדוגמה הזו ודומותיה לא נועדו לעורר פאניקה ובוסטרום אף מציין שאלה הם מקרי קיצון שנועדו להבהיר נקודה. והנקודה הזו – היא שאנו צריכים להתחיל לחשוב ברצינות על מערכת היחסים שלנו עם טכנולוגיה עתידית, כיוון שקצב הפיתוח שלה מואץ משנה לשנה. קשה לאמוד באיזה שלב נגיע למכונה אולטרה-אינטליגנטית ולכן כדאי להיות מוכנים מראש.
לחשוב אופטימי וליצור אופטימי
"אני מאמין שהתשובה פה היא להבין איך ליצור בינת-על כך שאפילו אם – מתי – שהיא תברח, זה עדיין בטוח מפני שהיא באופן בסיסי לצידנו, מפני שהיא חולקת את הערכים שלנו," אומר בוסטרום. זאת אומרת שכרגע, כל זמן שאנו עדיין בתהליך הבנייה של אינטליגנציה מלאכותית, עלינו לחשוב כיצד להטמיע בתוכה ערכי בסיס שיהוו מעין קווי אישיות לאורם תפעל הטכנולוגיה. "אני למעשה די אופטימי שהבעיה הזו יכולה להפתר."
אם המין האנושי יצליח לרתום טכנולוגיה אולטרה-אינטליגנטית למטרותיו, לבני האדם שיחיו בתקופה הזו צפויה מציאות שאנו לא מסוגלים לדמיין. אם מכונות בעלות אופי אנושי ידעו לשרת את הצרכים שלנו ביעילות וחכמה שעולות פי עשרות מונים על שלנו, הן תוכלנו להביא פיתרון לאתגרים האנושיים הגדולים ביותר – מיישוב כוכבים אחרים בחלל ועד למציאת הנוסחה לאושר. כל זה ייתכן, במידה וניקח אחריות על 'חינוך' חיובי של הטכנולוגיה.
כדי לצלוח את המעבר הזה בשלום יש תנאי מקדים חשוב מאוד. עלינו לחשוב עם עצמנו, קודם כאינדיבידואלים ואחר כך כחברה, מהו סט הערכים או התכונות האנושיות החיוביות שאנחנו רוצים לשמר. תהליך ההתבוננות העצמית הוא נקודת המוצא לאופן שבו נעצב את עתידנו הטכנולוגי. במידה מסוימת, הגענו לנקודה קריטית בהיסטוריה שבה הטכנולוגיה שייצרנו מבקשת מאיתנו לקבל החלטה – לאן פנינו מועדות. קווי המתאר העתידיים של טכנולוגיה חכמה ישקפו את בני האדם שהיינו בנקודת המעבר ובכך, הטכנולוגיה למעשה מעודדת אותנו לחשוב איך להיות אנשים טובים יותר.
כתבות נוספות שעשויות לעניין אותך:
ההרצאה השבועית של TED : כך טכנולוגיה חדשנית תחזק את האנושיות שבנו
זה מה שקורה כשמבקשים מרובוט להעביר ביקורת על יצירות אמנות
האם נוצרה השפה שתאפשר למחשבים להבין רגשות?
עוד מרדיו מהות החיים:
