איך ייראה עתיד הבינה המלאכותית? האם עלינו להאיץ או להאט את התפתחותה? אריסטו, סטיוארט מיל ודה-טוקוויל מבקשים להוביל אותנו אל חוף מבטחים שבו הטכנולוגיה משרתת את האנושות, ולא להיפך.
יש הטוענים כי האנושות ניצבת על סף עידן חדש. כמו מגלי ארצות שהשקיפו מסיפון ספינותיהם בסקרנות אל יבשת לא נודעת, כך גם אנו מביטים קדימה אל פתחו של עידן הבינה המלאכותית – טריטוריה בלתי מסומנת שאיש אינו יכול לחזות בוודאות כיצד תתפתח. השאלות מרחיקות לכת: האם הטכנולוגיה תעצים את האנושות, או שמא תפנה כנגדנו? האם נאבד חלק ממה שהופך אותנו לאנושיים?
בתוך הדיון הסוער, בולטות שתי גישות פילוסופיות עיקריות שמבקשות להתמודד עם חוסר הוודאות. מצד אחד, אקסיסטנציאליזם פסימי – שמזהיר מפני סיכונים קטסטרופליים וטוען שיש להאט את פיתוח הבינה המלאכותית עד שנמצא פתרונות בטוחים. מנגד, האקסלרציזם (Accelerationism), תנועת ההאצה, דוגלת בהאצה חופשית של פיתוחים טכנולוגיים מתוך אופטימיות לגבי פוטנציאל השוק והקדמה. שתי הגישות הללו, למרות כוונותיהן הטובות, מציבות בעיות: ההשהיה עלולה לחנוק חדשנות וחופש, בזמן שההאצה עלולה להותיר אותנו בעולם שבו האדם אינו עוד במרכז.
ברנדן מק׳קורד, יזם, סטארט-אפיסט בינה מלאכותית וחושב מוביל בחזית הצומת שבין פילוסופיה וטכנולוגיה, מבקש להציג גישה שלישית. עבורו, התשובה אינה טמונה בהאטה או בהאצה, אלא דווקא בחזרה אחורה, אל היסודות. לדבריו, ככל שהטכנולוגיה מתקדמת, כך אנו צריכים לחזור לשורשים ולשאול מחדש שאלות פילוסופיות בסיסיות על מהות אנושיותנו ועל הדרך לשגשוג.
בהרצאה מעוררת מחשבה מבית Big Think, מק'קורד טוען כי אין לראות בבינה המלאכותית איום או הזדמנות בלבד. בהתבסס על חוכמתם של פילוסופים מונומנטליים, הוא מציע מפת דרכים שמבקשת לסייע לנווט בטריטוריה הלא מוכרת הזו. היעד? חוף מבטחים שבו הטכנולוגיה תורמת לאנושות אך לא מאיימת על מהותה.
כוכב הצפון – מגדלור השגשוג האנושי
״מה שאנחנו צריכים הוא חזון חיובי אמיתי לעתיד הבינה המלאכותית״, טוען מק׳קורד, ״חזון הומניסטי שממוקד באדם״. למימוש החזון הזה, הוא מציע להשתמש במורה נבוכים שמורכב משלושה אלמנטים.
הראשון הוא ׳כוכב הצפון׳ – מטרה עליונה שתשמש כמגדלור שיכוון אליו את כל העשייה. לשיטתו, המגדלור הוא ׳שגשוג אנושי׳. לדבריו, הבינה המלאכותית חייבת לשמש כלי שמעצים את יכולותיהם של בני האדם, מסייע להם לפתח את כישרונותיהם, ומעודד אותם להפוך לגרסה הטובה ביותר של עצמם.
ללא מגדלור שכזה, מק׳קורד מזהיר מפני מציאות שבה הטכנולוגיה מחליפה את כל היכולות האנושיות הבסיסיות ביותר, והופכת מכלי עזר למפקח או אף למקבל החלטות. "בעבור נוחות הדרגתית, אנו מוותרים על היבטים מרכזיים של קיומנו לטובת 'מחנך-על' אינטליגנטי שאומר לנו מה לחשוב ומה לעשות״, הוא אומר.
"בעבור נוחות הדרגתית, אנו מוותרים על היבטים מרכזיים של קיומנו לטובת 'מחנך-על' אינטליגנטי שאומר לנו מה לחשוב ומה לעשות".
מנגד, בניסיון להימנע מעתיד כזה הוא מתאר תרחיש חלופי שבו נוצר "מבנה שלטוני לשליטה בטכנולוגיה״, אך גם הוא לדבריו עלול להוביל לתוצאה של ״חנק החדשנות, פגיעה בחופש, והגברת כוחם של שחקנים שליליים״. רגולציה נוקשה מדי עשויה להגביל יזמים ומדענים ולהוביל לפיקוח יתר על אזרחים. במקביל, שחקנים לא אתיים או מדינות ללא רגולציה עלולים להמשיך לפתח טכנולוגיה ללא בקרה, דבר שעלול להגביר את השימוש בה למטרות מזיקות.
בעולם כזה, אופטימיזציה טכנולוגית קרה ממסמסת את המטרות האנושיות. עם כוכב הצפון שמכוון לשגשוג אנושי, מבקש מק'קורד להחזיר את הפוקוס לערכים שמגדירים את מהותנו כבני אדם.
המצפן בעל שלוש הרוחות
כדי למצוא את כוכב הצפון דרוש כלי ניווט. מק׳קורד מציע מצפן שמבוסס על רעיונותיהם של פילוסופים בולטים, ונותן מענה לסכנות שעלולות להתעורר אם נאבד את הדרך או נטעה ונלך בכיוון שאינו משרת את השגשוג האנושי. כעת, בעידן הבינה המלאכותית הטכנולוגיה דוחפת את האדם שוב אל עבר הפילוסופיה, הוא מסביר. לדבריו, הפילוסופיה אינה מציעה חוכמה אלוהית, אלא סט כלים עוצמתי לחקירה שמאפשר לעבור מעבר לדפוסי חשיבה מקובעים ופלגנות, ולנווט בדרך בעזרת שאלות וערכים אוניברסליים. המצפן שהוא מציע פועל על-פי שלושה עקרונות מנחים: אוטונומיה אנושית, תבונה וביזור.
אוטונומיה היא היכולת לפעול ולחשוב באופן חופשי. שורשי הרעיון נטועים בפילוסופיה של אריסטו, שטען כי הבחירה החופשית והיכולת לפעול לפי שיקול דעת הן תנאי הכרחי לחיים מוסריים ומשגשגים.
מק'קורד מזהיר כי כאשר בינה מלאכותית מתחילה להחליף את שיקול הדעת האנושי, האדם עלול לאבד את היכולת לנהל את חייו באופן עצמאי. "ללא אוטונומיה, אנו עוברים מסוכנים חופשיים לסוכנים פסיביים, שתלויים יותר ויותר באלגוריתמים כדי לומר לנו מה לעשות וכיצד לחשוב״. אסור לוותר על היכולת הזאת לטובת נוחות, הוא מדגיש, שכן היא מהותית לשימור אנושיותנו.
את ההיגיון והתבונה האנושיים מק'קורד מתאר כ"כוח-על שבו המוח שלנו שוקל חלופות בחיפוש אחר האמת״. ג'ון סטיוארט מיל, פילוסוף בריטי מהמאה ה-19, נלחם למען גישה חופשית לדעות שונות ובלתי תלויות, מתוך אמונה כי ריבוי דעות והתנגשויות ביניהן הם המפתח לרדיפת האמת ולפיתוח התבונה. עיקרון זה חיוני במיוחד בעידן שבו אלגוריתמים עשויים לסנן דעות ולהגביל את מה שנראה אפשרי או נכון. מק'קורד מזהיר שאם הטכנולוגיה תגרום לתבונה האנושית להתנוון, "תחומים שנשענים על תבונה – כמו מדע – ייעצרו, ובני האדם יגלשו לדוגמטיות, חוסר סובלנות ורדיפה״.
"הפילוסופיה אינה מציעה חוכמה אלוהית, אלא סט כלים עוצמתי לחקירה שמאפשר לעבור מעבר לדפוסי חשיבה מקובעים ופלגנות, ולנווט בדרך בעזרת שאלות וערכים אוניברסליים".
העיקרון השלישי, ביזור, מבטא את החשיבות של הפצת ופיזור הכוח בין רבים, במקום לרכזו בידי גוף אחד – בין אם מדובר בממשלה, חברה פרטית או מערכת בינה מלאכותית. אלכסיס דה-טוקוויל, הוגה דעות והיסטוריון צרפתי שחקר את החברה האמריקאית של המאה ה-19, דיבר בזכות חלוקת הכוח.
הוא זיהה את העוצמה שבהתאגדות מקומית ויוזמות עצמאיות בארצות הברית הצעירה כבסיס לחברה חופשית. מק'קורד מבקש להחיות את אותה רוח של ביזור גם בעידן הבינה המלאכותית, מתוך הבנה שביזור הכוח שומר על החירות ומונע השתלטות ריכוזית שעלולה לדכא חדשנות וחופש. "אם נאבד את הביזור, אז אנשים ייכנעו לכוחות מרכזיים חזקים בחברה״, אומר מק'קורד, ״בין אם זו דעת רוב במדיה החברתית, שלטון מדיני או מתכנן-על סופר-אינטליגנטי״.
ניווט בעולם החדש
עם כוכב צפון בשמיים ומצפן ביד, איך מתחילים במסע הניווט? מק'קורד מציע גישה מעשית: כפי שבעבר פילוסופיה תורגמה לקודים חוקתיים, גם כיום יש לתרגם את הפילוסופיה לקוד תוכנה. לשם כך, הוא קורא לשיתוף פעולה של פילוסופים ואנשי תוכנה שיטמיעו את עקרונות האוטונומיה האנושית, התבונה והביזור לתוך מערכות מידע בקנה מידה עולמי, כאלה שמעצבות את העתיד.
בימים אלו מוביל מק׳קורד את הקמתה של "מעבדת הבינה המלאכותית האנושית" באוניברסיטת אוקספורד – המעבדה הראשונה בעולם המוקדשת לתרגום עקרונות השגשוג האנושי לתוכנה בקוד פתוח. לטובת הפרויקט הוא רותם כישרונות טכנולוגיים מהשורה הראשונה שגם מחזיקים בחשיבה פילוסופית מעמיקה, כאלו שמבינים את המורכבות הטכנולוגית אך לא שוכחים מה הופך אותנו לאנושיים.
״רגעים מרכזיים במדע ובטכנולוגיה תמיד האירו שאלות פילוסופיות ארוכות שנים באור חדש״, אומר מק׳קורד. כפי שקופרניקוס הסיט אותנו ממעמדנו במרכז היקום, דרווין הציב אותנו מחדש כחלק מהטבע, ואיינשטיין חשף את מגבלות תפיסת החלל והזמן שלנו, כך היום אנחנו ניצבים בפני נקודת מפנה היסטורית נוספת, שמזמינה אותנו למצוא מחדש את מקומנו בעולם. אולי ההבנה הגדולה ביותר היא שהטכנולוגיה, ככל שהיא מתקדמת, מאתגרת אותנו לשאול לא על מה שהיא יכולה לעשות – אלא מי אנחנו רוצים להיות.
תמונת כותרת: proslgn / shutterstock
כתבות נוספות שעשויות לעניין אותך:
יחסינו לאן? האמת מאחורי 5 מיתוסים נפוצים על AI
ההרצאה השבועית של TED: בינה מלאכותית אמורה לדעת הכול, אך אסור שתדע זאת
התלבטות מוסרית? 17 הוגים מציעים את עזרתם
עוד מרדיו מהות החיים:
