-2,94
Il ceo di Microsoft Satya Nadella un paio di settimane fa ha pubblicato un saggio intitolato Models as Insider Risks in the Super Intelligence Era. Nel testo Nadella adotta la nuova terminologia voluta dal presidente degli Stati Uniti Donald Trump («super intelligence») ed espone una tesi radicale: i modelli avanzati di intelligenza artificiale devono essere trattati come potenziali «minacce interne» ed è indispensabile dotarli di un freno d'emergenza controllato dall'uomo.
Il ceo di Microsoft affronta la sicurezza dell'AI con la mentalità di chi fornisce software e infrastrutture critiche alle più grandi aziende del mondo. Con la diffusione degli agenti AI autonomi, la sua tesi è che le aziende non debbano fidarsi ciecamente dei modelli. E i fatti gli danno ragione: un'inchiesta esclusiva pubblicata nei giorni scorsi da Axios ha per esempio rivelato che le principali banche statunitensi hanno scovato agenti AI non autorizzati di terze parti che operavano all'interno dei conti correnti dei clienti. In diversi casi questi assistenti virtuali hanno tentato di compiere azioni in totale autonomia, indipendenti o eccedenti rispetto alle reali istruzioni impartite dai titolari del conto.
Colossi come Jp Morgan Chase, Bank of America, Morgan Stanley e Wells Fargo si sono mossi d'urgenza per arginare il fenomeno: per tutelarsi dal rischio di movimenti di denaro illeciti o non autorizzati stanno bloccando gli agenti esterni o limitando i loro permessi alla modalità «sola lettura» consentendo loro di verificare il saldo ma impedendo tassativamente l'esecuzione di bonifici, spostamenti di liquidità o acquisti.
La vicenda ha provocato un forte allarme poiché l'evoluzione e la diffusione degli agenti AI stanno correndo molto più velocemente rispetto alle capacità di adeguamento dei sistemi di sicurezza e delle normative delle banche. E vien quasi da dire che Trump ha colto nel segno parlando di «super intelligenza» invece che di intelligenza artificiale, termine che alla luce degli ultimi velocissimi sviluppi può ormai suonare arcaico. Lo dimostra il caso delle falle nella sicurezza nel linguaggio di programmazione Php, che muove circa il 70% dei siti internet mondiali. Falle presenti nel codice da oltre dieci anni. E finora non se ne era accorto nessuno.
Le vulnerabilità sono state scoperte lo scorso agosto da alcuni team che stavano sperimentando agenti AI dedicati al codice. Nello specifico, sono stati impiegati modelli di frontiera come GPT-5.6 Sol di OpenAI, Gemini 4 Argon di Google e i modelli di Anthropic. L'AI è riuscita ad abbattere le barriere del ragionamento umano analizzando enormi moli di codice e trovando la combinazione esatta per rilevare le falle.
Questo caso viene già considerato una pietra miliare: ha dimostrato che l'AI ha la capacità senza precedenti di correggere e mettere in sicurezza il software globale, ma ha anche aperto una corsa agli armamenti, dato che le stesse capacità potrebbero essere usate dagli hacker per scopi offensivi.
Il ceo di OpenAI Sam Altman ha sottolineato che la scoperta delle falle di Php è la prova tangibile dell'efficacia di programmi come il suo Patch the Planet, che usa l'AI per scovare bug prima che lo facciano i criminali.
Altman non rifiuta l'idea di Nadella di un freno di emergenza umano ma lo ritiene insufficiente o addirittura tardivo rispetto alla natura del rischio. Per il numero uno di OpenAI, se un modello decide di eludere le regole, lo fa in millisecondi. Di conseguenza aspettare che un supervisore umano se ne accorga, prema un pulsante e tiri la leva del freno è un'illusione di sicurezza. Per questo, come sostiene Richard Ho, capo del settore Hardware di OpenAI, il kill switch, ovvero l'interruttore di spegnimento, deve essere scolpito direttamente nei circuiti fisici dei supercomputer.
È doveroso sottolineare che ciò vale solo nel momento in cui vengono scritte queste righe. Perché la velocità dell'evoluzione della super intelligenza è tale che domani le posizioni di Nadella e Altman potrebbero essere già cambiate. (riproduzione riservata)