גוגל מעמיקה את הקשרים עם הצבא, וחוקרי ה-AI שלה עוזבים במחאה
קבוצה של עובדים בחטיבת דיפמיינד של גוגל התפטרו במחאה על מכירת טכנולוגיית AI לשימוש צבאי, ואחרים נמצאים בהליכי עזיבה. לטענתם, הפיקוח על השימוש במערכות אינו מספק, ועובדים חוששים להשמיע ביקורת מחשש לפגיעה בקריירה
נמשך הלחץ הפנימי בתוך גוגל נגד מכירת טכנולוגיית הבינה המלאכותית שלה לשימוש צבאי: כמה מעובדי חטיבת דיפמיינד (DeepMind) של החברה, העוסקת בפיתוחי AI מתקדמים, התפטרו באחרונה במחאה, ואחרים נמצאים בהליכי עזיבה.
בכתבה שפורסמה בימים האחרונים ב-BBC הבריטי, נטען בין השאר, כי עובדים רבים חוששים לדבר על החששות שלהם בנושא משום שחוזי העבודה אוסרים עליהם לבקר את החברה בפומבי.
בינה מלאכותית צבאית
גוגל היא רק אחת מענקיות הטכנולוגיה שחתמו השנה על חוזים משמעותיים עם הצבא והממשל האמריקאי לפריסת בינה מלאכותית בסביבות צבאיות מסווגות. חוזים דומים נחתמו עם OpenAI, אמזון, מיקרוסופט, SpaceX, אורקל, אנבידיה ועוד. שר ההגנה האמריקאי פיט הגסת' טען, כי שילוב ה-AI בכוחות המזויינים יקבל מעתה עדיפות מרכזית, ולדבריו ממשל טראמפ יהפוך ל"כוח מלחמה מבוסס בינה מלאכותית".
החוזים שחתמה עם ישראל מעוררים גם הם ביקורת עזה בחברה, בעיקר פרויקט "נימבוס", שנחתם מול הממשלה בשנת 2024, בשיתוף עם אמזון, בשווי 1.2 מיליארד דולר. הפרוייקט מספק לישראל תשתיות מחשוב ענן מתוחכמות, אך גוגל כבר הודיעה שוב ושוב, כי הפרוייקט "לא מכוון לעומסי עבודה רגישים, מסווגים או צבאיים הרלוונטיים לנשק או לשירותי מודיעין".
החברה חוזרת ומצהירה שהיא עומדת בכל החוזים על עקרונות הבינה המלאכותית שלה, כולל הדרישה לפיקוח אנושי והתאמת השימוש בטכנולוגיה ל"חוק הבינלאומי ולזכויות האדם". אך עובדים לשעבר ובהווה בחברה טוענים, כי הם מודאגים מרמת הפיקוח האנושי הנדרש ברגעים קריטיים ומהיכולת לוודא שהוא אכן מתבצע. לטענתם, מודלי הבינה המלאכותית הנוכחיים אינם בטוחים מספיק לשימוש צבאי.
הצבא האמריקאי פרס בשנים האחרונות טכנולוגיות מבוססות בינה מלאכותית לקידום יכולות הלחימה שלו. הבולטת ביניהן היא Maven, פלטפורמת התוכנה הראשית של הפנטגון לארגון מודיעין ונתונים.
המערכת פותחה על-ידי חברת ההגנה האמריקאית "פלנטיר" (Palantir) והיא עושה שימוש ב-AI כדי לסייע לבחירה מהירה של מטרות ולתקיפתן. פלנטיר שילבה בה טכנולוגיות מכמה חברות בינה מלאכותית.
לפי מי שעמד בעבר בראש הפרויקט, ג'ק שאנהאן, בשיחה עם ה-BBC, הרעיון העיקרי במערכת הוא "ללכת כמה שיותר מהר כדי לפרוס טכנולוגיית AI באופן רחב ככל האפשר, אולי על חשבון הקפדנות והמשמעת של בדיקות והערכה". בפנטגון טוענים, כי אימוץ הבינה המלאכותית חיוני לניצחון במלחמות: "בעידן הזה, המהירות מגדירה ניצחון", קבע לא מכבר אמיל מייקל, תת-שר במשרד ההגנה.
החוזה של גוגל עם הפנטגון, שנחתם מוקדם יותר השנה, מאפשר להשתמש בטכנולוגיית הבינה המלאכותית שלה לעבודה צבאית מסווגת. ההסכם קובע כי מודלי הבינה המלאכותית של גוגל יכולים לשמש ל"כל מטרה ממשלתית חוקית" ו"אין להשתמש בהם למעקב המוני מקומי או לנשק אוטונומי (כולל בחירת מטרות) ללא פיקוח ושליטה אנושית מתאימים".
"אנשים מפחדים לדבר מחשש לקריירה שלהם"
סופיה ליגורי, מהנדסת מחקר מלונדון, שהתפטרה מדיפמיינד השבוע אחרי שלוש שנים בחברה, אמרה ל-BBC כי היא "מרגישה בושה לעבוד בגוגל": "אני לא מסכימה עם הכיוון הזה וזה גרם לי לאבד אמון בטענת החברה שלי שהיא נאמנה לערכים האתיים המוצהרים שלה". היא הוסיפה כי "אנשים מפחדים מנקמה ומסיכון הקריירה שלהם. אתה מרגיש שמישהו עוקב אחריך, אתה לא יכול לדבר".
אנדראס קירש, חוקר בינה מלאכותית, שהתפטר גם הוא בתחילת החודש, טען כי הוא מאמין ש"הממשל והפיקוח של גוגל אינם מספיקים או משמעותיים מספיק כדי לפרוס בינה מלאכותית בצורה בטוחה ואחראית בסביבות צבאיות ומסווגות, או לפתח בינה מלאכותית בבטחה בעתיד".
דובר גוגל אמר בתגובה: "אנו עובדים עם ארגוני מגזר ציבורי ברחבי העולם ועוקבים בתהליך עקבי אחר יישום החוזים הללו, כולל עמידה במדיניות השימוש המקובלת שלנו ובעקרונות הבינה המלאכותית. יש לנו ערוצים ייעודיים המאפשרים לעובדים להעלות בבטחה כל חשש - החל מאתיקה עסקית ועד התנהגות לא הולמת".