L'appello lanciato dai ceo di quattro aziende tecnologiche americane per un rallentamento nello sviluppo dell'AI rappresenta un momento di grande rilevanza economica e politica, sebbene non sia chiaro a quale scopo. La Cina non ha alcuna intenzione di frenare i propri leader nel campo dell'AI, mentre la classe politica americana potrebbe cercare di cogliere l'occasione per bloccare la tecnologia o assumerne il controllo. È opportuno guardare con cautela alle proposte avanzate da chi invoca prudenza.

La proposta di Anthropic

Sabato 12, il ceo di Anthropic, Dario Amodei, ha rilasciato una dichiarazione chiedendo un rallentamento, alla luce dei rapidi progressi di Claude (il modello di Anthropic) e di altri sistemi di AI. Sam Altman (OpenAI/ChatGPT) si è subito detto d'accordo, così come Elon Musk (SpaceXAI) e Demis Hassabis (Google DeepMind). Poiché i quattro sono concorrenti nello sviluppo dell’AI, i loro avvertimenti simultanei colpiscono particolarmente.

«Negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora più prudenza: non basta investire nella prevenzione dei rischi, occorre anche modulare la velocità con cui evolvono le capacità dei sistemi, affinché la prevenzione abbia il tempo di stare al passo», ha scritto Amodei.

Le preoccupazioni riguardano sia la tecnologia che la politica. Gli imprenditori temono episodi in cui agenti di AI «fuori controllo» si siano sottratti alle istruzioni umane per perseguire obiettivi propri. La recente incursione di agenti di OpenAI nella piattaforma Hugging Face è l'episodio più noto, ma se ne verificano altri man mano che le macchine imparano a insegnare a se stesse e a migliorarsi autonomamente.

Questo fenomeno di «mancato allineamento» – per usare il gergo del settore – è una preoccupazione reale. Su queste pagine sono già apparsi avvertimenti in tal senso (tra cui quelli recenti di Cameron Berg). È una questione importante: gli esseri umani devono poter mantenere il controllo sulle macchine.

I ceo si rendono anche conto di come il dibattito politico sull'AI stia scivolando verso il panico. L'opposizione ai data center, spesso alimentata da disinformazione, ne è un segnale. Intuiscono inoltre che gli studi legali specializzati in class action sono in attesa di un incidente in cui agenti autonomi causino danni ben più gravi rispetto all'episodio di Hugging Face.

Gli allarmi apocalittici

Si moltiplicano anche gli allarmi apocalittici, spesso privi di fondamento e amplificati da figure come Bernie Sanders, che vorrebbero che il governo bloccasse il settore finché i politici non saranno in grado di gestirlo direttamente. Proponendo di rallentare autonomamente e di invitare osservatori esterni a esaminare i propri modelli, i ceo sperano di scongiurare un simile scenario.

D'altra parte, al momento nulla impedisce a queste aziende di «gestire autonomamente il ritmo di avanzamento della frontiera tecnologica», per usare le parole di Amodei. OpenAI e Anthropic sono all'avanguardia nel settore. Se ciò che osservano nei loro laboratori è realmente pericoloso, è giusto che agiscano con responsabilità e cerchino di «allineare» lo sviluppo, rallentando autonomamente il ritmo.

Le complicazioni sorgono quando queste aziende cercano sostegno esterno per la propria causa. Un rischio costante è la cosiddetta «cattura del regolatore», situazione in cui le norme governative finiscono per consolidare la posizione dei leader di mercato, in questo caso soprattutto OpenAI e Anthropic.

Se Amodei desidera coinvolgere un arbitro esterno per i suoi modelli, è libero di farlo; tuttavia, anche gli organismi di controllo no-profit portano con sé pregiudizi e legami commerciali. Bisogna evitare di consacrarli come autorità di regolamentazione de facto per l'intero settore.

La stessa cautela è necessaria quando si parla di riformare le leggi sulla responsabilità del prodotto o sulla concorrenza per consentire alle aziende di collaborare alla definizione e alla supervisione delle frontiere dell’AI. Un certo margine di cooperazione potrebbe essere giustificato, ma la gestione dei ritmi di sviluppo tecnologico non deve trasformarsi in un meccanismo per proteggere le quote di mercato a scapito della concorrenza.

Attenti alla Cina

Amodei auspica inoltre una cooperazione globale per «gestire i ritmi di sviluppo all'interno delle democrazie», un obiettivo condivisibile. Tuttavia, il nodo cruciale è rappresentato dalla Cina, unico vero concorrente dei modelli statunitensi. I critici dell'AI vorrebbero che il presidente Trump e il presidente cinese Xi Jinping avviassero un processo di controllo degli armamenti legati all'AI in occasione del loro incontro di questo mese.

Sarebbe auspicabile, se solo fosse realistico. È indubbio che la Cina non voglia causare l'estinzione del genere umano, ma il Partito Comunista mira a diventare la potenza globale dominante. Vale comunque la pena coinvolgere la Cina in un dialogo sui rischi che l'AI comporta per l'umanità, soprattutto tra gli esperti del settore tecnologico.

Non bisogna dimenticare, però, che Xi mentì a Barack Obama promettendo di porre fine agli attacchi informatici contro gli Stati Uniti e che la Cina continua a non fare chiarezza su quanto accaduto realmente nel laboratorio di virologia di Wuhan.

Attualmente, la macchina della propaganda di Pechino sta alimentando l'opposizione alla costruzione di data center negli Stati Uniti. È probabile che Xi consideri un eventuale rallentamento statunitense non come un'opportunità per aiutare l'umanità, bensì come un'occasione per conquistare la leadership nel campo dell'AI.

Rinunciare al primato tecnologico potrebbe inoltre esporre gli Stati Uniti a minacce provenienti da Stati canaglia o attori non statali intenzionati a utilizzare l'AI per creare armi biologiche o altre minacce. Va riconosciuto ad Anthropic il merito di aver segnalato questo rischio e di lavorare per prevenirlo; il Pentagono ha bisogno di poter contare su tale leadership tecnologica.

Queste precisazioni non intendono sminuire i rischi legati all'AI, soprattutto alla luce della sua capacità, in rapida crescita, di auto-addestrarsi. Tuttavia, esistono anche rischi enormi nel cedere ad altri la leadership statunitense. L'impegno volto a ridurre i primi non dovrebbe accrescere i secondi.