L'intelligenza artificiale ha superato la fase delle chatbot. Aziende e governi stanno iniziando a delegare a sistemi autonomi non solo compiti, ma decisioni e processi critici. È la tesi di Autonomia Delegata, la ricerca presentata il 26 giugno da Zenita Group alla Camera dei Deputati, firmata da Pierguido Iezzi, direttore della divisione Cybersecurity del gruppo.

Il report ha incrociato i dati di circa 1.100 posizioni aperte nei principali laboratori AI con operazioni di M&A, cicli di rilascio dei modelli e investimenti in capacità computazionale. Il risultato è una fotografia di un settore che si sta polarizzando: 670 posizioni aperte in un laboratorio orientato a costruire uno stack verticale integrato, contro 410 in un laboratorio focalizzato su infrastrutture di fiducia per mercati regolamentati. Due strategie diverse, conquistare l'intera filiera computazionale o presidiare governance e compliance, in un mercato che oggi conta 8-10 poli globali di frontiera, con nuovi modelli rilasciati ogni 6-8 settimane.

Come si allarga il concetto di sicurezza

Il cuore della ricerca è un cambio di paradigma. La cybersecurity tradizionale si basa su eventi osservabili: un accesso anomalo, un malware, un log che ricostruisce una catena causale. Con gli agenti AI, cioè sistemi dotati di memoria, capacità di pianificare e usare strumenti in autonomia, questo schema si incrina. Il rischio può manifestarsi come una deviazione progressiva del comportamento, senza un singolo evento da individuare.

«Il punto non è solo avere più osservabilità» spiega Iezzi. «Il punto è che il sostrato dell'esecuzione diventa statistico, adattivo e delegato ad agenti che operano per conto dell’organizzazione». In altre parole: la sicurezza non può più limitarsi a bloccare un attacco, ma deve imparare a riconoscere quando un sistema autonomo comincia a comportarsi diversamente da come dovrebbe, anche in assenza di un allarme tecnico.

• Leggi anche: AI, cosa può fare l’Italia e a che punto è l’adozione nelle imprese. I dati e la posizione di Bankitalia

I nuovi rischi e il concetto di AI poverty

La ricerca individua 9 rischi cyber AI-native non ancora coperti dai controlli tradizionali, legati a memoria, catene decisionali e dipendenze cognitive degli agenti. Tra i temi emersi: la possibilità di manipolare ciò che un agente crede vero contaminando le fonti che consulta, la perdita di attribuzione quando un dato viene trasformato più volte all'interno del sistema, e la moltiplicazione di identità autonome generate dagli agenti stessi.

Il report introduce anche il concetto di AI poverty: il rischio che aziende e interi sistemi-paese restino indietro perché incapaci di adottare in modo sicuro e governato gli stack AI-native. Secondo le stime di Zenita, i primi adottanti potrebbero ottenere riduzioni dei costi operativi tra il 50% e l'80%, ampliando il divario con chi resta ancorato a modelli tradizionali.

Per l'Europa la posta in gioco, secondo il report, non è solo la difesa da cyber-attacchi basati sull'AI, ma il rischio di perdere autonomia tecnologica e competitiva. La finestra di reazione indicata è di circa 18 mesi. «Non basta chiedersi quale modello usare», conclude Iezzi. «La domanda vera è quale infrastruttura di fiducia vogliamo costruire attorno all'AI. Perché quando deleghiamo autonomia a un sistema, deleghiamo anche una parte della nostra capacità decisionale». (riproduzione riservata)