Anthropic: חסמנו חשבונות של חוקרים שהשתמשו ב-Claude למחקר ביולוגי דו-שימושי

חברת Anthropic הודיעה כי חסמה כמה חשבונות של חוקרים שהשתמשו במודלים של Claude לעבודה על מחקרים ביולוגיים דו-שימושיים, שעשויים לסייע בפיתוח נשק ביולוגי. כך נכתב בדו"ח חדש של החברה על שימוש במערכותיה בידי גורמים עוינים וגורמים אחרים בסיכון גבוה, כפי שציינה AP.

ב-Anthropic מדגישים כי לא ניתן היה לקבוע אם החוקרים חתרו למטרות פליליות: שיטות דומות עשויות לשמש גם בעבודות לגיטימיות, למשל בפיתוח חיסונים.

באחד המקרים המתוארים ניסה משתמש לקבל מ-Claude סיוע במחקר על נגיף הצ'יקונגוניה, ולפי נתוני החברה הסתיר את אופי העבודה ועקף את מגבלות ההגנה. Anthropic הגיעה למסקנה שהסיכון הפוטנציאלי גבוה מדי, וחסמה את החשבונות הקשורים למחקרים מסוג זה. שמות המדענים, הארגונים והמדינות שאליהן הם משתייכים אינם נחשפים על ידי החברה.

הדו"ח מתאר גם ניסיונות נוספים להשתמש ב-Claude למטרות מסוכנות. לפי נתוני Anthropic, משתמשים הקשורים לרוסיה, לסין ולתימן פנו למודלים כדי לפתור משימות הקשורות לפיתוח נשק קונבנציונלי, למבצעי סייבר, למעקב ולתעמולה. החברה מסרה גם על סיכול פעילויות הקשורות להאקרים רוסים ועל ניסיונות של חברות סיניות להשתמש בתשובות של Claude לאימון מודלים משלהן.

ב-Anthropic מציינים כי יכולותיהם של מודלים מתקדמים בתחום הביולוגיה גדלות במהירות. החברה כבר מפעילה מנגנוני הגנה נוספים על פניות שעשויות לסייע ביצירת נשק כימי או ביולוגי, ומגבילה את הגישה למודלים החזקים ביותר עבור חלק מהמחקרים הביולוגיים. להערכת Anthropic, הצעדים הנוכחיים מפחיתים את הסיכון באופן משמעותי, אך אי אפשר לשלול לחלוטין אפשרות של שימוש לרעה.