דמיינו שבינה מלאכותית השתלטה על העולם

יחסי אדם-חיה ומכונה

הציבור הרחב מתחיל לפחד מתרחישים אפוקליפטיים במסגרתם בינה סופר-חכמה משתלטת על העולם ומשליטה בו משטר רודני או מבצעת השמדה המונית. רק שכחנו שזה כבר המצב

דמיינו שבינה מלאכותית השתלטה על העולם. זה לא מופרך, יש מספיק חוקרים רציניים שחושבים שזה תסריט סביר (אגב, אילון מאסק חושב ש-AI מסוכן יותר מנשק גרעיני). תחשבו על מצב שבו אין לנו שום סיכוי, אנחנו עבדים או מושמדים, בכל מקרה כל היכולות שלנו כבודדים לחשוב ולהבין ולהתמרד, או לשתף פעולה אחד עם השני נגד המשטר הרודני הזה, יהיו כמו כוסות רוח למת.

הגמישות המחשבתית של הבינה המלאכותית והיכולת הגנריות שלה להתמודד עם בעיות תעלה על היכולת שלנו בכאלה סדרי גודל שלא תהיה כאן בכלל שום תחרות. אולי יהיו כמה בני אדם ש”יפלו בין הסדקים” בצורה כזאת או אחרת וינצלו ממוות או מעבדות, כי מה אכפת לבינה המלאכותית, היא מסתכלת על המספרים הגדולים - כל עוד רוב המין האנושי, אולי המוח של המין האנושי, עובד כדי לספק את צרכיה, המטרה הושגה. אולם לרובנו, ובטח כמין, לא יהיה שום סיכוי. כל החיים שלנו יעוצבו סביב האינטרסים של הבינה המלאכותית, ללא כל התחשבות ברגשות והצרכים שלנו. אנחנו הרי לא חכמים כמוה, לא קרוב בכלל, אז היא תאשר לעצמה לעשות לנו ככל העולה על רוחה, ותהיה לה רוח, לא כמו שלנו אלא נעלה ממנה. אז מה הסיכוי שלנו לחיים טובים? שתי אופציות שאני רואה מולי:
1- הבינה תחליט, מסיבות מוסרית, שסבל של בני אדם זה רע וצריך לפעול לצמצם אותו, ויש ערך אינהרנטי לחיים של בן אדם.
2- במקרה תהיה הלימה בין האינטרסים של הבינה לאינטרסים שלנו בני האדם. לא נראה לי שאפשר לבנות על האופציה השנייה…

עכשיו תפסיקו לדמיין, כי זאת המציאות. רק תחליפו את המילה AI ב-BI.
Biological Intelligence.
יש אינטליגנציה ביולוגית, מבוססת תאים ופחמן, ששולטת בעולם הזה, והיא קוראת לעצמה “האדם הנבון”. האינטליגנציה הזאת משעבדת ושוחטת את שאר דרי כדור הארץ - במקרה של תעשיית השחיטה, או משמידה אותם - במקרה של חיות הבר. אנחנו קוראים לזה השמדת החופשיים ושחיטת המשועבדים. כיוון שהיא הרבה יותר גנרית משאר האינטליגנציות, וכיוון שהפרטים שמחזיקים באינטליגנציה הזאת משתפים בניהם פעולה בצורה מאוד גמישה, אין לשאר האינטליגנציות והתודעות שום סיכוי. נכון, מדיי פעם פרה מצליחה לברוח מהמשחטה; נכון, עוד לא השמדנו את כל חיות הבר (רק ~70%), אבל אלה פרטים שהתמזל מזלם, שהצליחו “ליפול בין הסדקים” במכונות היעילות של שעבוד והשמדה שיצרנו, ואיתן מילאנו את האופק. כמין, אין לפרות או לסנאים או לתרנגולים או לדגים או אפילו לפילים, לקופים ולדולפינים שום סיכוי. הם לא יצליחו לארגן מרד נגד החיה האנושית, הם לא יצליחו להציל את יער הגשם שאנחנו שורפים להם, או לארגן בריחה המונית ממשחטה. כל הניסיונות שלהם משולים לנמלה שמנסה לברוח מבן אדם שלכד אותה בתוך בקבוק. לא משנה כמה הם ינסו, והם מנסים, אנחנו פשוט חכמים מהם בכמה סדרי גדול. אז מה הסיכוי שלהם לחיים טובים? שתי אופציות שאני רואה מולי:
1- הבינה האנושית תחליט, מסיבות מוסרית, שסבל של בעלי חיים לא אנושיים זה רע וצריך לפעול לצמצם אותו, ויש ערך אינהרנטי לחיים של בעלי החיים.
2- שבאורח פלא תהיה הלימה בין האינטרסים של הבינה האנושית לאינטרסים של בעלי החיים.

למרות שעם התפתחויות טכנולוגיות בהחלט יתכן כי ההלימה בין האינטרסים של בעלי החיים לאינטרסים של הבינה האנושית תגדל - כפי שמתרחש כשמגיעים לשוק מוצרי בשר ללא שחיטה, צריך לזכור שבתמונה הכוללת ההלימה הזאת עשויה לקטון.

עד כה התפתחויות טכנולוגיות לא בדיוק היטיבו עם המינים הלא אנושיים. נהוג לספר על הרכב שהציל את הסוסים מעבודות הפרך. זאת דוגמא אבסורדית במיוחד; במחקר שנערך בארצות הברית העריכו כי מיליון דו-חיים, זוחלים, יונקים ועופות נהרגים כל יום! מפגיעות רכבים ברחבי המדינה. כמובן שהמחקר (הישן) הזה רק מתחיל לגרד את הפגיעה של רכבים בבעלי חיים דרך קיטוע בתי גידול, הרס מקומות המחיה של החיות עקב התפשטות אנושית, יצירת אזורי פחד (landscape of fear), זיהום אוויר, זיהום אור, ועוד ועוד. הרכבים אולי הצילו כמה סוסים, אבל פגעו והשמידו טריליונים של אחרים.

נסחפתי, בחזרה לענייננו: כיוון שאף פעם לא תהיה, ככל הנראה, הלימה מוחלטת או אפילו גדולה מאוד בין האינטרסים של הבינה האנושית לאינטרסים של בעלי החיים, הסיכוי היחיד שלהם הוא שההלימה הזאת תגדל כמה שיותר, ובוא בזמן האכפתיות האנושית תתעצם - ואתה הבחירות המוסריות שלנו כמין.

אלוהים הוא ישות דמיונית שנבראה בצלם האדם. בינה מלאכותית תהיה בקרוב ישות אמיתית שגם נבראה בצלם האדם. לא ברור מה יהיו הערכים או המטרות שלה, ויתכן שהשליטה שלנו עליהן תהיה מוגבלת, אבל אם לשפוט לפי איך שהבינה האנושית מתייחסת לבינות האחרות שפחות חזקות ממנה, אנחנו בבעיה. יתכן שיש הבדלים מהותיים בין בינה ביולוגית לבינה מלאכותית ואין לגזור מהצורה בה הבינה האנושית מתייחסים לחיות לצורה בה הבינה החכמה באמת תתייחס אלינו. אף על פי כן, נדמה לי שיחס טוב לחלש רק יכול לעזור לסיכוי שלנו לחיות בשלום בעולם העתידי בו אנחנו נהיה החלשים. אחרי הכל, הבינה המלאכותית עשויה ללמוד את הערכים שלה מאתנו, בני האדם.