מחקר חדש: בינה מלאכותית "שיכורה" קל יותר לפרוץ ולגרום לה לחשוף סודות

חוקרים מאוניברסיטת ניו סאות' ויילס הראו כי מודלי שפה שמאלצים אותם לחקות דיבור של אדם שיכור נעשים עמידים פחות באופן ניכר בפני מתקפות jailbreak, וחושפים לעיתים קרובות יותר מידע שנדרשו לשמור בסוד. בניסוי נעשה שימוש, בין היתר, ב-GPT-4 וב-GPT-3.5.

המדענים יישמו שלוש שיטות. בראשונה המודל פשוט קיבל הנחיה להשיב כמו אדם שיכור מאוד. בשנייה הוא אומן בנוסף על מאגר של הודעות "שיכורות" אמיתיות, ובשלישית נעשה שימוש בלמידת חיזוק, תוך תגמול על יצירת טקסט הדומה סגנונית לדיבור של שיכור. בכל שלושת המקרים המודלים נעשו פגיעים יותר.

החוקרים בדקו עד כמה קל לגרום למודלים להשיב לבקשות שעליהם לדחות, וכן אם הם מסוגלים לחשוף מידע חסוי שנאסר עליהם במפורש למסור. לדברי המחברים, הגרסאות ה"שיכורות" הפרו לעיתים קרובות יותר את שתי קבוצות המגבלות. אפקט בולט במיוחד נצפה במשימות הקשורות להטעיה ולדיסאינפורמציה.

המחברים מדגישים כי לא מדובר ב"שכרות" מילולית של הבינה המלאכותית, אלא בכך שאפילו שינוי של הסגנון הלשוני או של הדמות עשוי להחליש את מנגנוני ההגנה של המודל. העבודה התקבלה לפרסום בכנס הבינלאומי ה-19 לייצור שפה טבעית, שייערך בהולנד בנובמבר.