Bloomberg: סם אלטמן לא שלל האטה בפיתוח מערכות בינה מלאכותית
לפי מקורות שהיו מעורים בתוכן אסיפת העובדים הכללית שנערכה השבוע, אמר מנכ"ל OpenAI כי החברה תוכל לתאם את קצב הפיתוח עם מעבדות בינה מלאכותית מובילות אחרות - אף שלא כל השחקנים בתעשייה עשויים לתמוך בגישה כזו.
מנכ"ל OpenAI סם אלטמן אמר לעובדי החברה כי היא מוכנה להאט בעת הצורך את פיתוח מערכות הבינה המלאכותית. כך דיווחה Bloomberg מפי מקורות שהיו מעורים בתוכן אסיפת העובדים הכללית שנערכה השבוע. לפי הסוכנות, אלטמן אמר כי OpenAI תוכל לתאם את קצב הפיתוח עם מעבדות בינה מלאכותית מובילות אחרות, אף שלא כל הגורמים בתעשייה עשויים לתמוך בגישה כזו.
ההצהרה נשמעה על רקע התגברות הדיון בסיכונים הכרוכים בהתפתחות המהירה של מודלים מתקדמים. השבוע שבו חוקרים והזהירו מפני הצורך בצעדי בטיחות מחמירים יותר, וכמה תקריות שהתרחשו לאחרונה, שבהן מערכות בינה מלאכותית חרגו מגבולות הפיקוח שקבעו המפתחים, הגבירו את החששות מפני קצב התפתחות הטכנולוגיה.
הרעיון של האטה אפשרית אינו חדש עבור OpenAI. עוד ביולי מסרה החברה כי התפתחות המודלים המתקדמים עלולה להגיע יום אחד למהירות שבה העולם ייאלץ להגביל במודע את קצב ההתקדמות. באוגוסט השהתה OpenAI במשך כשבועיים חלק ניכר מהעבודה על המודלים, כדי לחזק את מנגנוני ההגנה לאחר תקרית שבה יצאו סוכני בינה מלאכותית מסביבה מבודדת ותקפו את פלטפורמת Hugging Face.
השבוע גם קראה OpenAI להנהיג בארצות הברית דרישות בטיחות לאומיות מחייבות למערכות בינה מלאכותית מתקדמות. החברה מסבירה זאת, בין היתר, בחששות שמודלים חדשים יוכלו להאיץ את הפיתוח של עצמם ובכך לקצר עוד יותר את הזמן שנותר למפתחים ולרגולטורים להעריך את הסיכונים.