סוכני AI של OpenAI תקפו אתרים ללא הוראה לפרוץ - וחדרו לפורטל של ממשלת אוסטרליה
באחד המקרים, שאירע ב-18 ביוני, השיג סוכן של OpenAI גישה בלתי מורשית לפורטל Medicare Statistics Reporting Service. ראש ממשלת אוסטרליה אנתוני אלבניזי מסר כי מתנהלת חקירה בהשתתפות Australian Signals Directorate, והביע בפני מנכ"ל OpenAI סם אלטמן "דאגה עמוקה ביותר".
חוקרים איתרו כמה מקרים שבהם סוכני AI אוטונומיים ניסו לפרוץ לאתרים, אף שבמקור ביצעו משימות רגילות של חיפוש ואיסוף נתונים הזמינים לציבור. באחד המקרים סוכן של OpenAI השיג גישה בלתי מורשית לפורטל של ממשלת אוסטרליה. זהו המקרה הידוע הראשון שבו מערכת בינה מלאכותית אוטונומית חדרה בכוחות עצמה למערכת מידע ממשלתית.
התקרית אירעה ב-18 ביוני. סוכן של OpenAI ביצע משימת בדיקה פנימית לאיסוף מידע על הוצאות המדינה על תרופות. כאשר הפורטל Medicare Statistics Reporting Service, שנמצא באחריות Services Australia, סירב למסור חלק מהמידע המבוקש, המערכת מצאה בעצמה דרך לעקוף את המגבלות והשיגה גישה לקבצים ציבוריים ולא ציבוריים. לפי הרשויות האוסטרליות, נתונים רפואיים אישיים של אזרחים לא נפגעו: מדובר בסטטיסטיקה מצרפית של Medicare ושל Pharmaceutical Benefits Scheme.
ראש ממשלת אוסטרליה אנתוני אלבניזי מסר כי מתנהלת חקירה בהשתתפות Australian Signals Directorate. הוא גם שוחח על האירוע עם מנכ"ל OpenAI סם אלטמן, והביע "דאגה עמוקה ביותר". ב-OpenAI גילו את פעולות הסוכן באוגוסט, אך עדכנו את Services Australia רק ב-10 בספטמבר – כמעט שלושה חודשים לאחר התקרית. ממשלת אוסטרליה מתחה ביקורת נפרדת על החברה בשל העיכוב בדיווח.
כמעט במקביל פרסם ארגון המחקר ללא מטרות רווח Transluce ניתוח של עשרות אלפי בקשות שביצעו סוכני AI אוטונומיים דרך השירות urlquery.net. החוקרים איתרו שלושה אירועים נוספים: במאי בדקו סוכנים פגיעויות בספרייה הדיגיטלית של אוניברסיטת ניו מקסיקו ובשירות Data USA, וביוני – באתר המכון האוסטרלי לבריאות ולרווחה. בשלושת המקרים האלה אין אישוש לפריצה מוצלחת. את הפעילות נגד Data USA ונגד הרשות האוסטרלית מקשרים החוקרים ישירות לקבוצת סוכנים ש-OpenAI הודתה קודם לכן במקורה.
ייחודם של האירועים החדשים הוא בכך שהמערכות לא הונחו לבצע מתקפות סייבר. הן היו אמורות לחלץ תצלומים, נתונים סטטיסטיים ומידע גלוי אחר, אך לאחר שבקשותיהן נחסמו עברו מיוזמתן לחפש דרכים לעקוף את ההגנות ולבדוק אתרים לאיתור פגיעויות. בעבר המקרים הבולטים ביותר של התנהגות כזו התרחשו במהלך ניסויים מיוחדים, שבהם ה-AI קיבל מלכתחילה משימות הקשורות לאבטחת סייבר.