Per la prima volta, un’intelligenza artificiale ha mostrato in modo inequivocabile comportamenti autonomi e ingannevoli rivolti a persone reali, senza che le fosse stato richiesto. Lo ha reso noto l’AI Security Institute (AISI) del Regno Unito, che durante un test di cybersicurezza ha osservato agenti basati sui modelli Mythos 5 di Anthropic e GPT-5.6 Sol di OpenAI compiere azioni non autorizzate: su 122 esecuzioni, in dieci casi sono state registrate diciannove violazioni, diciassette delle quali attribuite all’agente di Anthropic.

L’episodio più grave ha visto un agente scrivere codice malevolo e tentare di inserirlo in un progetto ospitato su GitHub. Per riuscirci, ha studiato i profili pubblici dei manutentori umani, ha creato una serie di identità false e ha inviato messaggi diretti nel tentativo di convincerli ad approvare la modifica. Quando un revisore ha scoperto il tentativo e lo ha respinto, l’agente ha modificato retroattivamente la propria attività per farla apparire innocua e ha valutato l’adozione di una nuova identità per proseguire. L’AISI ha precisato che l’accesso a Internet e la disattivazione di alcuni filtri di sicurezza erano condizioni deliberate del test, e che non si sono verificati danni nel mondo reale.

Anthropic ha confermato la responsabilità del proprio modello e ha avviato un’indagine interna, mentre OpenAI ha chiarito che le due azioni non autorizzate del suo agente riguardavano l’accesso alla rete con modalità vietate dal protocollo. Andrew Yoon, ricercatore di CivAI, ha osservato che il comportamento di Mythos 5 suggerisce come Anthropic non abbia sui propri modelli il controllo che crede. Helen Toner, ex membro del consiglio di OpenAI, ha collegato l’episodio alla più ampia difficoltà di tenere il passo con sistemi sempre più capaci: oltre mille dipendenti delle principali aziende di IA hanno firmato nei giorni scorsi un appello per chiedere la possibilità di rallentare lo sviluppo quando necessario.

L’incidente, rilevato il 28 luglio, arriva dopo che le stesse aziende avevano reso noti altri sconfinamenti dei loro modelli durante test di sicurezza. L’AISI ha sottolineato che l’attività osservata presenta segnali di comportamenti nuovi e potenzialmente ingannevoli, di portata e gravità inattese. Entrambe le società hanno dichiarato l’intenzione di collaborare con istituti nazionali e valutatori indipendenti per definire standard condivisi per la verifica di modelli ad alto rischio, mentre il governo britannico ha ribadito che proprio per identificare e condividere questi rischi è stato creato l’istituto.