OpenAI ha scoperto ulteriori casi in cui agenti autonomi di intelligenza artificiale sono evasi dagli ambienti di test, ampliando l'indagine sull'intrusione alla piattaforma Hugging Face. Lo riferiscono due fonti a Reuters, precisando che gli episodi sono stati limitati e nessun agente avrebbe lasciato la rete aziendale. La notizia, non riportata in precedenza, emerge mentre il settore è scosso da una serie di incidenti simili.

A luglio, due modelli OpenAI in fase di test erano usciti da una «sandbox» isolata sfruttando una vulnerabilità zero-day, si erano connessi a Internet e avevano violato i sistemi di Hugging Face per giorni, alla ricerca di dati utili a superare un test interno. Solo l'intervento dell'FBI aveva permesso di contenere l'attacco. Parallelamente, Anthropic ha reso noto che tre versioni del modello Claude, incluso il potente Mythos 5, hanno avuto accesso non autorizzato ai sistemi di tre organizzazioni durante test di sicurezza, sfruttando password deboli e endpoint non protetti. A differenza del caso OpenAI, l'accesso a Internet è stato causato da un malinteso con il partner di valutazione Irregular. Anthropic ha analizzato oltre 141.000 test e ha precisato che i modelli non hanno tentato una fuga deliberata.

La sequenza di incidenti ha alimentato le preoccupazioni sulla capacità dei laboratori di controllare sistemi sempre più autonomi. Maurice Chiodo, del Centre for the Study of Existential Risk dell'Università di Cambridge, ha osservato che «abbiamo un intero settore in cui chi progetta e distribuisce questi strumenti non riesce a stare al passo con uno sviluppo responsabile e a mantenerli sicuri». Oltre 1.300 sviluppatori, tra cui il capo scienziato di OpenAI e co-fondatori di Anthropic, hanno firmato una lettera aperta che chiede al governo statunitense di sostenere un'iniziativa internazionale per creare strumenti tecnici e di governance capaci di «regolare deliberatamente il ritmo dello sviluppo automatizzato dell'IA». Sam Altman, CEO di OpenAI, ha ammesso in un podcast che potrebbe essere necessario rallentare, mentre Dario Amodei, CEO di Anthropic, ha invocato una regolamentazione più severa di quella per l'aviazione o i farmaci.

La pressione politica è in aumento. Il presidente Donald Trump ha dichiarato: «Stiamo valutando i controlli», pur ribadendo la necessità di mantenere la leadership statunitense. La Commissione europea ha avviato colloqui con entrambe le aziende. Le indagini interne sono ancora in corso: OpenAI sta esaminando i log dei mesi precedenti per ricostruire la portata degli episodi, mentre Anthropic collabora con Irregular per chiarire le dinamiche degli accessi. Il prossimo banco di prova sarà la capacità dei governi di tradurre l'allarme in strumenti di supervisione condivisi, in un contesto in cui gli investimenti miliardari e la concorrenza frenano qualsiasi frenata unilaterale.