+0,09
Qual è la minaccia maggiore: la Cina o Anthropic? L'amministrazione Trump sembra non riuscire a decidersi, a giudicare dall'ordine di limitare l'accesso ai modelli di intelligenza artificiale all'avanguardia di Anthropic. Le conseguenze potrebbero minare il primato americano nell'AI e le difese informatiche.
La disputa latente tra la Casa Bianca e Anthropic è riesplosa la scorsa settimana dopo il lancio del nuovo modello avanzato Fable 5. I funzionari di Trump hanno chiesto ad Anthropic di limitare l'accesso al suo potente modello Mythos, temendo che gli avversari possano sfruttarne gli strumenti per la guerra cibernetica. Fable 5 rappresenta il tentativo di Anthropic di trovare un compromesso.
Fable 5 vanta funzionalità avanzate di programmazione, ricerca, analisi, gestione di agenti e altre capacità simili a quelle del suo modello Mythos, ma include anche misure di sicurezza per impedirne l'utilizzo a fini informatici. L'obiettivo era fornire ai clienti aziendali strumenti più potenti, placando al contempo le preoccupazioni della Casa Bianca circa la possibilità che tali strumenti potessero essere utilizzati come armi da malintenzionati.
Almeno questa era l'idea. Ma venerdì scorso l'amministrazione ha improvvisamente ordinato all'azienda di limitare l'accesso a Fable 5 agli utenti stranieri, dopo che Amazon aveva segnalato la possibilità che alcuni utenti riuscissero a eludere le misure di sicurezza informatiche del modello. Questo è ciò che nel settore viene definito jailbreak.
Il controllo delle esportazioni equivale a un divieto di fatto del modello, poiché Anthropic non ha modo di accertare la nazionalità dei suoi utenti. Persino i suoi clienti statunitensi impiegano personale straniero. L'amministrazione sembra aver reagito in modo eccessivo alla segnalazione di Amazon o averla usata come pretesto per riaccendere la sua disputa con Anthropic.
Funzionari dell'amministrazione Trump e Anthropic non concordano sulla gravità del jailbreak. Anthropic afferma che il jailbreak non fornisce agli utenti capacità informatiche più sofisticate rispetto a quelle di modelli concorrenti come quello di OpenAI. Quindi, anche se gli utenti riuscissero a eludere alcune misure di sicurezza, non sarebbero in grado di sferrare attacchi informatici di grande portata.
Anthropic ha inoltre sottolineato che probabilmente non è possibile realizzare un modello infallibile al 100%: «Il nostro obiettivo era quello di rendere i jailbreak o di nicchia (nel caso di jailbreak non universali) o molto costosi da produrre (nel caso di jailbreak universali), e di combinare questo con un monitoraggio accurato per rilevare e bloccare rapidamente qualsiasi attacco andato a buon fine», ha dichiarato in un comunicato.
La Casa Bianca aveva esaminato e approvato il modello Fable 5 prima del suo rilascio. Ciò suggerisce che i funzionari non abbiano riscontrato il jailbreak o, se lo hanno fatto, non lo abbiano ritenuto grave. L'amministrazione sta spingendo le aziende a condividere volontariamente i propri modelli con il governo prima del lancio, ma a cosa serve se poi il governo potrebbe revocarli a suo piacimento?
L'ordine sommario dell'amministrazione di ritirare Fable dal mercato ricorda come i funzionari abbiano inasprito una controversia lo scorso inverno con Anthropic in merito alle garanzie sull'uso militare della sua intelligenza artificiale. Il Pentagono si era irritato per le richieste di Anthropic di limitare l'uso della sua AI per la sorveglianza di massa sul territorio nazionale e per le armi completamente autonome.
Senza un adeguato processo, il Pentagono ha considerato Anthropic un rischio per la catena di approvvigionamento e ha ordinato la rimozione dei suoi modelli dai sistemi militari. Il presidente Trump ha attaccato Anthropic definendola «una società di AI di estrema sinistra fuori controllo», riprendendo le dichiarazioni del consulente in materia di AI David Sacks, che aveva criticato l'azienda per aver assunto ex funzionari dell'amministrazione Biden e per il suo sostegno all'«AI woke».
L'eliminazione del modello Fable 5 danneggerà Anthropic a vantaggio dei suoi concorrenti, tra cui OpenAI e Amazon. Questo potrebbe essere l'obiettivo. Ma i funzionari dell'amministrazione Trump trascurano il fatto che ciò ostacolerà anche l'innovazione statunitense nell'AI, creando un precedente che consente al governo di ordinare in qualsiasi momento il ritiro di un modello dal mercato.
Nel frattempo, la resistenza della Casa Bianca all'estensione di Mythos a un maggior numero di alleati e aziende statunitensi sta compromettendo la nostra sicurezza informatica collettiva. Certo, esiste il rischio che malintenzionati possano accedere furtivamente a Mythos e utilizzarlo per sfruttare le falle nella sicurezza informatica, ma i cinesi stanno già lavorando a modelli per fare proprio questo.
Sarebbe meglio per le aziende utilizzare Mythos per individuare e correggere le vulnerabilità prima che gli hacker sponsorizzati dallo stato cinese utilizzino l’AI per sfruttarle, e prima che i modelli cinesi privi di adeguate misure di sicurezza si diffondano tra i nostri avversari, tra cui Iran, Russia e Corea del Nord. Sono loro i nemici, non Anthropic.