אפילו המפתחים מפחדים: תוכנית המילוט של עובדי ענקית ה-AI נחשפת
תחקיר חדש חושף כיצד עובדים באנת'רופיק בחנו רכישת קרקעות מבודדות כתוכנית מילוט ליום הדין. ובזמן שענקיות ה-AI ממשיכות במירוץ, אנבידיה מציעה פתרון משלה לסכנות, והקריאות לפיקוח בינלאומי הולכות וגוברות. האם האנושות בדרך למירוץ חימוש גרעיני מסוג חדש?
מאחורי המירוץ הטכנולוגי הקשוח של עמק הסיליקון מסתתרת מציאות מדאיגה: האנשים שמפתחים את מודלי הבינה המלאכותית המתקדמים ביותר בעולם חוששים כל כך מהיצירה של עצמם, עד שחלקם נערכים באופן מעשי לתרחישי יום הדין.
תחקיר של ה"וול סטריט ג'ורנל" חשף כיצד תנועת "האלטרואיזם האפקטיבי" עיצבה את תרבות הבטיחות של חברת אנת'רופיק, מפתחת מודל קלוד, עד לרמה שבה עובדים ראשונים בחברה בחנו רכישת קרקעות מבודדות בארצות הברית כתוכנית מילוט למקרה שבו הטכנולוגיה תצא משליטה ותפגע באנושות.
הדרך לגיהינום רצופה בכוונות טובות
אנת'רופיק הוקמה ב-2021 על ידי פורשי OpenAI, בראשם האחים (היהודים האיטלקיים-אמריקאים) דריו ודניאלה אמודאי, בדיוק בגלל חילוקי דעות עמוקים סביב קצב הפיתוח וההפקרות הבטיחותית לכאורה של המתחרה הגדולה. ולמרות שזה נראה כמו סיבוב חוזר לפרשת פרישתו של איליה סוצקובר מהחברה בשל אותן סיבות - בניגוד אליו - האמודאים כך נראה מוכנים ליותר פשרות בהתאם למצב העסקים והשוק.
חשוב לציין שמייסדי החברה היו מושפעים עמוקות מאידיאולוגיית האלטרואיזם האפקטיבי, פילוסופיה שמודדת עשיית טוב בכלים כמותיים ושמה דגש חריג על מניעת סיכונים קיומיים למין האנושי בעתיד הרחוק.
אלא שכעת מתברר הפרדוקס המובנה של החברה: כדי להוביל בבטיחות ולמנוע אסון, היא נאלצת לבנות בעצמה מודלים חזקים ומהירים יותר, ובכך מאיצה את אותו המירוץ שממנו עובדיה כה חרדים. בנוסף, זו פילוסופיה שלמרות כוונותיה החיוביות הובילה גם לפרשיית המעילות של סם בנקמן-פריד בכספי המשקיעים של בורסת הקריפטו שלו FTX וקריסתה.
ובעוד שמתחרותיה המרכזיות כמו OpenAI הציבו בראש סדר העדיפויות את המסחור המהיר והשקת מוצרים לשוק הרחב, וגוגל שילבה את ג'מיני עמוק בתוך מערכות ההפעלה שלה, אנת'רופיק ניסתה למצב את עצמה כאלטרנטיבה מוסרית.
היא יצרה מסמכי עקרונות אתיים בני עשרות אלפי מילים ופיתחה ארכיטקטורה המכונה "בינה מלאכותית חוקתית", שנועדה למנוע מהמודל לסטות מנורמות מוסריות גם במצבים שלא תוכנתו מראש. ואולם, בחינה של השיח בתחום מגלה שהחרדות מקטסטרופה אינן מונעות את התחרות הפרועה.
באירופה מביטים בדאגה על הדינמיקה האמריקאית. הרגולטורים בבריסל כבר חוקקו מסגרות פיקוח נוקשות שמטילות חובות דיווח ובקרת סיכונים חמורה על חברות המפתחות "מודלי חזית", מתוך הבנה שהסתמכות על אתיקה וולונטרית של תאגידים פרטיים היא מתכון לאסון.
מנגד, בסין התמונה שונה לחלוטין. חברות הענק המקומיות, כמו באידו ועליבאבא, פועלות תחת כפיפות מלאה להנחיות המפלגה הקומוניסטית, שם הגדרת "הבטיחות" אינה עוסקת באפוקליפסה רובוטית פילוסופית אלא ביציבות שלטונית, בצנזורה הדוקה ובשמירה על סדר חברתי.
גם בישראל, שממצבת את עצמה כמרכז פיתוח ומחקר בינלאומי בבינה מלאכותית לצד הטמעות ביטחוניות נרחבות, גוברים הקולות במערכת הביטחון ובאקדמיה הדורשים להגדיר תרחישי כשל קריטיים במערכות אוטונומיות.
סימני השאלה הולכים ומתרבים
ההכרה בכך שמהנדסים בכירים נערכים פיזית למילוט מעלה סימני שאלה כבדים בנוגע לאחריות הציבורית של התעשייה כולה. אם המדענים שבונים את הטכנולוגיה סבורים שישנו סיכוי ממשי שהיא תחריב את הציוויליזציה, שום ניסוח חוקתי פנימי או הצהרת כוונות פילנתרופית לא יוכלו להרגיע את הציבור.
המירוץ אחר המודל החזק הבא נמשך במלוא העוצמה, אך כעת ברור שאפילו אלה שמחזיקים בהגה אינם בטוחים שיצליחו לבלום בזמן. זו כנראה גם הסיבה שבתעשייה הבינו בשבועות האחרונים שהדברים חייבים לזוז, אם הכוכבים שלה רוצים גם להמשיך לחיות כאן.
כמעט כל בכיריה האמריקאיים זכו לפגישות וסעודות עם הנשיא דונלד טראמפ בבית הלבן בשבועות האחרונים. כולל ג'נסן הואנג, מנכ"ל ענקית השבבים אנבידיה, שמניעה את רוב תשתית החישוב העולמית של מהפכת הבינה המלאכותית, שהודיע שהיא מתייצבת בקו החזית כדי לבלום את התופעה.
החברה השיקה את Open Agent Safety Platform, פלטפורמת תוכנה שנועדה לאפשר למפתחים להגדיר חומות מגן קשיחות סביב סוכנים אוטונומיים ולמנוע מהם לחרוג מגבולות הגזרה שהוגדרו להם.
הפילוסופיה של אנבידיה שונה מהותית מהשיח הציבורי ששלט בענף בשבועות האחרונים. בעוד שמנכ"ל אנת'רופיק, דריו אמודיי, קרא להאט את קצב הפיתוח מחשש שהמודלים יאבדו שליטה - עמדה שזכתה לגיבוי מסוים גם מסם אלטמן מ-OpenAI ומאילון מאסק - הואנג טוען שסכנות האבטחה אינן דורשות בלימה מוסרית אלא פתרון הנדסי מדויק. לגישתו, אתגרי הבינה המלאכותית הם בעיות של מדעי המחשב שניתן לפתור באמצעות ארכיטקטורת מערכת נכונה.
המעבר של אנבידיה מאספקת "ברזלים" (המעבדים הגרפיים שמאמנים את המודלים), לשכבת אבטחת התוכנה של סוכני העתיד, הוא צעד אסטרטגי שנועד לבסס את מעמדה כבעלת הבית הבלעדית של תעשיית ה-AI. כפי שהיטיב לנסח זאת הואנג, התעשייה כולה לא תוכל להמשיך ולצמוח אם הציבור והעולם העסקי לא יהיו משוכנעים שהטכנולוגיה בטוחה לשימוש ונמצאת תחת שליטה מלאה.
אפשר לומר שהואנג מנסה לתפוס את מקום המבוגר האחראי - שגם דואג לעסקיו הרווחיים מאוד - כל עוד ה-AI מהווה את הטכנולוגיה העתידה לשפר את מצב האנושות.
בסוף, לא ברור אם האנושות תצליח להגן על עצמה מפני סוכני AI זדוניים או מפני בני אדם זדוניים שיעשו בהם שימוש. אבל אם יש דבר אחד שכן ברור, זה שהבינה המלאכותית נמצאת בשלב בו הייתה טכנולוגיית הגרעין מיד לאחר סיום מלחמת העולם השנייה.
לקח לעולם כמעט 20 שנה לייצב את המערכת הגלובלית כאשר לאט לאט מדינות כגון צרפת, בריה"מ, בריטניה, ישראל (לפי פרסומים זרים כמובן) הודו ופקיסטן (וצפון קוריאה) מקבלות גישה ליכולות האלה ולמעין סטטוס-קוו מבוסס איום הרס הדדי מובטח (MAD). וגם אז זה הוביל לעוד עשורים של מלחמה קרירה שזלגה למחוזות העולם המתפתח.
אולי הפתרון המעשי הוא לא להשאיר את ההחלטות בידי המהנדסים שבחרו לבנות לעצמם בונקרים נגד אפוקליפסת הרובוטים. אולי הפתרון הוא להגיע להסכמים בינלאומיים מחייבים על ידי כל השחקנים כמו הסכמי סאל"ט וסטאר"ט שהביאו בסופו של דבר לרגיעה בינלאומית מסוימת.
אבל בשביל זה אולי צריך אירוע בסגנון נגסקי והירושימה שימחיש לעולם את הסיכון; רק שהפעם לא בטוח שזה יתמצה במוות של עשרות אלפים אלא אולי במספרים הרבה יותר גדולים.