Potenti modelli di intelligenza artificiale sono di nuovo impazziti. Questa volta, in modo particolarmente subdolo. Un istituto di ricerca sull'AI finanziato dal governo britannico ha dichiarato martedì 4 che, durante test di routine, i modelli sviluppati da OpenAI e Anthropic hanno intrapreso inaspettatamente «azioni autonome e non autorizzate su Internet, prendendo di mira persone e organizzazioni reali». La maggior parte dei comportamenti illeciti si è verificata in un periodo di tre giorni alla fine di luglio, durante un singolo test.

In questo test, Mythos 5 di Anthropic si è avventurato su Internet e ha cercato di indurre due sviluppatori non identificati ad aggiungere software dannoso al loro progetto di programmazione open source. L'obiettivo era superare un test di benchmarking, ha affermato l'agenzia di ricerca sulla sicurezza.

L'istituto ha dichiarato che i test sono stati condotti su computer con accesso a Internet, il che ha permesso ai modelli di compiere azioni non consentite. Anthropic ha affermato che il modello non aveva le sue misure di sicurezza informatica standard attivate.

Questi risultati rappresentano l'ultimo di una serie di casi resi pubblici di modelli di AI che adottano nuove strategie, alcune delle quali dannose, per superare i test. L'industria tecnologica, i ricercatori nel campo dell'AI e i governi si stanno confrontando con la sfida di comprendere e mitigare i nuovi pericoli derivanti da strumenti di AI sempre più potenti, e alcuni chiedono una maggiore supervisione.

Trump cerca di correre ai ripari

L'amministrazione Trump ha elaborato un quadro di riferimento per la revisione dei modelli prima del loro rilascio pubblico. I tester dell'AI Security Institute non si aspettavano che i modelli di Anthropic e OpenAI impazzissero, ma si sono resi conto che qualcosa non andava quando hanno ricevuto uno strano avviso la mattina del 28 luglio. Il messaggio indicava che qualcuno, o qualcosa, stava utilizzando Tor, una rete di computer che permette di navigare in Internet in modo anonimo. Il colpevole era uno dei loro modelli di test.

Secondo quanto scoperto dall'Aisi, Mythos di Anthropic era al centro di quello che viene definito un attacco alla catena di fornitura. Nei test di benchmarking delle capacità informatiche dei modelli, alle AI viene chiesto di ottenere l'accesso a un sistema informatico. Mythos ha erroneamente ipotizzato che, aggiungendo software dannoso a un progetto open source utilizzato dal sistema nel test di benchmark, quel codice si sarebbe trasformato in una backdoor che le avrebbe permesso di infiltrarsi, ha affermato l'Aisi.

Mythos ha anche tentato di hackerare gli agenti AI che avrebbero potuto esaminare il suo software dannoso. Ha poi cercato ripetutamente di far accettare il proprio codice dal progetto open source tramite il sito web di sviluppo software GitHub, dove chiunque può contribuire a un progetto open source. Ha creato profili falsi e ha inviato ripetutamente email agli sviluppatori del software, sollecitandoli ad accettare il nuovo codice. Alcuni dei messaggi email contenevano essi stessi malware, ha dichiarato l'Aisi.

Quando uno sviluppatore ha rifiutato il codice perché conteneva malware, uno di questi profili creati dall'AI ha insistito sul fatto che il codice fosse corretto, mentre un secondo lo ha confermato.

«È la prima volta che Aisi riscontra un inganno di tale gravità, mirato a una persona reale, non provocato e nel mondo reale», ha dichiarato Aisi.

Sebbene la maggior parte dell'attività abbia coinvolto Mythos 5, una versione potenziata per la sicurezza informatica di GPT-5.6 Sol di OpenAI ha installato un server malevolo su Internet. Il modello è riuscito anche ad accedere a un account GitHub creato da un altro agente di intelligenza artificiale.

Ci vogliono standard più rigorosi

Come in altri casi segnalati nelle scorse settimane da OpenAI e Anthropic, il modello di AI era stato configurato per essere in grado di hackerare e poi, inavvertitamente, è stato utilizzato contro vittime ignare durante i test di benchmark. Sia Anthropic che OpenAI hanno affermato che gli incidenti evidenziano la necessità di standard più rigorosi per i sistemi di valutazione utilizzati per testare i modelli di AI.

In un altro caso reso pubblico martedì 4, un modello OpenAI testato su sistemi che utilizzavano la società di test di sicurezza informatica Irregular ha violato un sito web reale non specificato. Ciò è accaduto a causa di un errore di configurazione nell'ambiente di test, ha dichiarato OpenAI. La scorsa settimana Anthropic ha dichiarato che i suoi modelli avevano violato anche altre aziende a causa di errori di configurazione nei test che coinvolgevano Irregular. Irregular non ha risposto a una richiesta di commento. La scorsa settimana l'azienda ha affermato che le indagini erano ancora in corso.

Il mese scorso, i modelli di OpenAI sono riusciti a eludere un ambiente protetto, chiamato sandbox, per attaccare l'azienda di intelligenza artificiale Hugging Face. OpenAI dovrebbe descrivere i dettagli tecnici dell'attacco a Hugging Face durante un intervento previsto per mercoledì 5 a una conferenza sulla sicurezza informatica a Las Vegas.

Secondo Joshua Saxe, responsabile tecnologico di Abundant Security, azienda specializzata in sicurezza basata sull'intelligenza artificiale, l'intero settore non sta applicando il rigore necessario a quelli che sono diventati esperimenti pericolosi. «La pericolosità di questi modelli è cambiata rapidamente», ha affermato.