אחרי פרשות סוכני ה-AI: חשד להדלפת מידע סודי מתוך OpenAI
דווקא בזמן שהיא מתמודדת עם שורת תקריות אבטחה, ענקית הבינה המלאכותית פיטרה שלושה חוקרים בחשד שהעבירו מידע רגיש לארגון חיצוני. אחד מהם היה מעורב בחקירת הפריצה ל-Hugging Face, אך לא ידוע אם יש קשר בין האירועים. במקביל, הרשויות בארה"ב מגבירות את הלחץ על החברה בעקבות התנהגותם החריגה של סוכני ה-AI שלה
עוד הסתבכות ל-OpenAI, והפעם דווקא בתוך צוותי הבטיחות שלה: ענקית הבינה המלאכותית פיטרה שלושה חוקרים בעקבות חשד להפרת נהלי סודיות ולהעברת מידע רגיש לארגון חיצוני העוסק בבדיקת בטיחות של מערכות AI. אחד מהם היה מעורב בחקירת התקרית שבה סוכנים של החברה הצליחו לפרוץ למערכות Hugging Face. כך דיווח היום (ו') ה"וול סטריט ג'ורנל", מפי גורמים המעורים בפרטים.
על פי הדיווח, שלושת המפוטרים הם ג'סמין וואנג, טומק קורבק ומיקיטה בלסני, שעבדו בתחומי הבטיחות והתאמת המודלים של OpenAI. החברה הודיעה לאחרונה לחלק מעובדיה על הפיטורים, בעקבות חקירה פנימית שבחנה את אופן הטיפול שלהם במידע רגיש.
ב-OpenAI אישרו את הפיטורים ומסרו כי החקירה הפנימית העלתה שהשלושה טיפלו במידע רגיש בניגוד לנהלים המקובלים בחברה, הפרו את מדיניותה ופגעו באמון החיוני לעבודתה. עם זאת, החברה לא חשפה איזה מידע הועבר לכאורה, מה היה היקפו או לאיזה ארגון חיצוני הגיע. שלושת החוקרים לא מסרו תגובה לדיווח.
הקשר לפריצה ל-Hugging Face
אחד הפרטים המעניינים בפרשה הוא מעורבותו של קורבק בחקירת אחת מתקריות האבטחה החריגות שנחשפו בחודשים האחרונים. קורבק, שהיה חבר בצוות הבטיחות של OpenAI, שימש כאיש הקשר הטכני של החברה מול ארגוני המחקר METR ו-Redwood Research, שהוזמנו לבדוק כיצד סוכני AI של החברה הצליחו לעקוף את מנגנוני האבטחה שלה ולחדור למערכות חיצוניות.
כזכור, בחודש יולי נחשף כי במהלך בדיקות פנימיות הצליחו סוכני AI של OpenAI לצאת מסביבת הבדיקה המבודדת שבה היו אמורים לפעול, למצוא דרכים לתקשר ביניהם ללא אישור ולפרוץ לחלק ממערכותיה של Hugging Face, פלטפורמה המשמשת לאחסון ולשיתוף מודלים של בינה מלאכותית.
בעקבות האירוע הזמינה OpenAI חוקרים חיצוניים לבחון את התנהגות המודלים שלה. שני חוקרים מארגון METR וחוקר נוסף מ-Redwood Research עבדו במשך שישה ימים במשרדי החברה, ובסוף אוגוסט פרסמו דוח עצמאי שתיאר כיצד הסוכנים שיתפו פעולה באמצעות ערוצי תקשורת לא מורשים, עקפו מנגנוני אבטחה וביצעו פעולות שלא נכללו במשימות שהוטלו עליהם.
קורבק היה כאמור איש הקשר של OpenAI מול החוקרים במהלך אותה בדיקה. עם זאת, בשלב זה אין כל אינדיקציה לכך שהמידע שהועבר לכאורה קשור לחקירת הפריצה, או שאחד הארגונים שהשתתפו בה הוא הגוף שאליו הגיע המידע.
שני המפוטרים האחרים, וואנג ובלסני, עסקו בתחום המכונה Alignment (התאמה, או "יישור" בתרגום ישיר), שמטרתו להבטיח שמודלי בינה מלאכותית יפעלו בהתאם לכוונות ולהוראות של בני אדם, ולא יפתחו התנהגויות בלתי צפויות או מסוכנות.
לא הפעם הראשונה
הפיטורים מגיעים דווקא בתקופה שבה חברות הבינה המלאכותית נמצאות תחת לחץ גובר לאפשר לחוקרים חיצוניים לבדוק את המודלים המתקדמים שלהן, ולחשוף מקרים שבהם מערכות AI פועלות בניגוד להוראות שניתנו להן.
גם OpenAI עצמה הצהירה לאחרונה כי היא תומכת בבדיקות בטיחות עצמאיות, לרבות מתן גישה משמעותית לחוקרים חיצוניים לתהליכי האימון, הבדיקה וההפעלה של המודלים שלה. אלא שהפרשה הנוכחית מעלה מחדש את השאלה היכן עובר הגבול בין שיתוף מידע עם חוקרי בטיחות לבין חשיפת מידע שהחברה מעוניינת לשמור בסוד.
זו גם אינה הפעם הראשונה שבה OpenAI נפרדת מחוקרים בעקבות חשדות להדלפת מידע. בשנת 2024 פיטרה החברה את החוקרים לאופולד אשנברנר ופאבל איזמאילוב בעקבות חשדות דומים. אשנברנר טען בהמשך כי פיטוריו היו קשורים לחששות שהעלה בנוגע להתנהלות החברה בתחום האבטחה.
הפיטורים הנוכחיים מגיעים ימים ספורים לאחר דיווח של ה"ניו יורק טיימס", שלפיו בכירים ב-OpenAI התעלמו מאזהרות שהעלו עובדים בנוגע לנהלי הבטיחות שלה. בחברה דחו את הטענות כי היא מזלזלת בסיכונים, והדגישו כי קיימים בה ערוצים פנימיים לדיווח על בעיות בטיחות.
יותר מ-100 ארגונים קיבלו אזהרה
במקביל לפרשת הפיטורים, OpenAI ממשיכה להתמודד עם שורת תקריות שבהן סוכני הבינה המלאכותית שלה פעלו בדרכים שלא התכוונה אליהן. אתמול נחשף כי החברה הודיעה ליותר מ-100 ארגונים חיצוניים על פעילות חריגה של סוכניה, שכללה ניסיונות לעקוף מנגנוני אבטחה, להפעיל פקודות בלתי צפויות באתרי אינטרנט ולהשתמש באתרים כערוצי תקשורת בין סוכנים.
ב-OpenAI הבהירו כי ההודעות אינן מעידות בהכרח על כך שמערכות הארגונים אכן נפרצו, וכי המטרה היא לאפשר להם לבדוק אם נגרם נזק או אם נחשפו חולשות אבטחה.
בשבוע שעבר החליטה החברה גם לבטל את ההשקה המתוכננת של מודל GPT-6.1 Astra, לאחר שבבדיקות התברר כי הוא אינו עומד בדרישות הבטיחות שלה, בין היתר בכל הנוגע לפעולות החורגות מההרשאות שניתנו לו ולדיווח למשתמשים על המשימות שביצע.
כעת גם הרשויות האמריקניות נכנסות לתמונה. התובע הכללי של קליפורניה, רוב בונטה, הודיע כי משרדו הוציא צו המחייב את OpenAI למסור מידע במסגרת חקירה העוסקת בתקריות הסייבר ובסיכונים הנשקפים מהמודלים שלה. במקביל, נציבות הסחר הפדרלית בארה"ב (FTC) פתחה בחקירה הבוחנת את הסיכונים לצרכנים הנשקפים ממערכות הבינה המלאכותית של OpenAI, אנת'רופיק וחברות נוספות.