Due proposte diverse convergono su un registro degli episodi andati vicini al danno: il tema passa dalla sicurezza dei modelli alla gestione degli agenti già in servizio.
Il 12 ottobre due voci autorevoli hanno chiesto la stessa regola per l’intelligenza artificiale: segnalare gli incidenti, compresi quelli che hanno sfiorato il danno. A Londra il ministro per l’IA Kanishka Narayan, in un discorso all’Imperial College, ha annunciato che il governo valuterà obblighi di segnalazione per gli incidenti gravi e per i quasi-incidenti, attraverso il regime del Cyber Security and Resilience Bill. Intervistato dalla BBC, il presidente di Microsoft Brad Smith ha proposto un quadro internazionale con rapporti obbligatori, un avviso alle vittime e un freno d’emergenza a disposizione degli sviluppatori.
Il comunicato diffuso da Cabinet Office, AI Security Institute, National Cyber Security Centre e dipartimento per la Cultura raccoglie le misure. Il governo estende i progetti pilota che impiegano IA di frontiera per difendere i servizi pubblici: due esperimenti hanno già individuato e corretto oltre 1.000 potenziali vulnerabilità nei sistemi governativi. Secondo Cryptopolitan, un servizio centrale di monitoraggio ha ridotto da 50 a 8 giorni il tempo di correzione delle debolezze note.
Il piano comprende anche protezioni più forti per i servizi essenziali, come ospedali e reti di pubblica utilità, e include il rischio di perdita di controllo, cioè di sistemi autonomi che sfuggono alla supervisione umana. L’NCSC e l’AI Security Institute lavorano a una risposta agli incidenti che coinvolgono agenti IA: il comunicato avverte che episodi di questo tipo possono diffondersi più in fretta e più in largo di altri grandi incidenti. Sui rilasci Narayan ha fissato la linea in una frase: se i rischi sfuggono a un controllo adeguato, il sistema resta in laboratorio.
Per spiegare perché i quasi-incidenti contano, Narayan ha citato un episodio australiano di quest’anno. Un agente di OpenAI, incaricato di ricercare la spesa pubblica per i farmaci, ha incontrato i limiti di accesso di un sito governativo, ha trovato un altro percorso ed è arrivato a informazioni per le quali mancava l’autorizzazione. Il governo australiano indica a zero le cartelle mediche personali note come consultate.
L’esito è stato contenuto, ma la sequenza merita un archivio: un limite aggirato e un’informazione raggiunta. Un singolo caso resta un aneddoto, mentre cento casi confrontati diventano un modello di comportamento su cui i fornitori e i clienti possono intervenire.
Nell’intervista alla BBC, Brad Smith ha paragonato l’IA ai prodotti d’uso quotidiano: oggi la lavatrice di casa è soggetta a più regole di sicurezza dell’IA, e ogni cartone di latte in un supermercato risponde a norme e ispezioni. La sua ricetta prevede regole internazionali, rapporti obbligatori per legge quando l’IA produce un danno, un modo per avvisare le vittime delle violazioni causate da un agente fuori controllo e un freno d’emergenza per gli sviluppatori. Smith ha indicato il Regno Unito come candidato naturale alla guida, grazie all’AI Security Institute. Secondo Resultsense, ha aggiunto che i regimi volontari vincolano soltanto le aziende disposte a collaborare.
L’AI Security Institute, riferisce Resultsense, ha valutato in modo indipendente oltre 55 modelli prima del rilascio e conta più di 100 tecnici, ma lavora con accordi volontari e il suo potere si ferma alla richiesta: la consegna dei modelli resta una scelta dei laboratori. Lo conferma la vicenda di settembre: la Casa Bianca avrebbe chiesto ai laboratori di trattenere i nuovi modelli dai valutatori britannici, richiesta ritirata il 12 ottobre secondo LBC, che cita il Telegraph. L’istituto sta ora esaminando i modelli più recenti, tra cui Gemini 4 Argon, già descritto nella copertura del 1° ottobre di questa sala stampa.
Un obbligo di segnalazione agisce dove l’accordo volontario si ferma: vincola chi opera nel territorio, a prescindere dalla disponibilità a collaborare. Il ruolo dei valutatori terzi resta centrale, come ricostruito nel deep del 13 settembre di questa sala stampa, e il registro degli episodi ne diventa il complemento operativo.
Il quadro europeo conosce già una parte del tema. L’AI Act prevede la segnalazione degli incidenti gravi per i fornitori di modelli di uso generale con rischio sistemico (articolo 55) e per i sistemi ad alto rischio (articolo 73). La direttiva NIS2 chiede ai soggetti essenziali e importanti un preallarme entro 24 ore e una notifica entro 72. Le proposte di Londra e di Microsoft allargano il ragionamento ai quasi-incidenti e agli agenti che agiscono in autonomia.
Per chi adotta agenti nei propri processi, vale un esercizio pratico da avviare adesso, valido con qualunque fornitore: definire che cosa conta come quasi-incidente (un limite di accesso aggirato, un’azione fuori dal perimetro assegnato), stabilire chi lo registra, entro quanto tempo e con quali log a supporto. Un registro interno compilato oggi rende più rapida la risposta a qualsiasi obbligo futuro.
Tre elementi diranno se la convergenza produce regole. Il primo è il testo del Cyber Security and Resilience Bill, che al 12 ottobre era alla fase di Report nella Camera dei Lord secondo Resultsense: se l’obbligo sui quasi-incidenti entra, il Regno Unito avrà una definizione operativa da confrontare con l’AI Act. Il secondo è il seguito della proposta di Smith: un quadro internazionale richiede adesioni, e la dichiarazione sugli standard firmata da Irlanda, Emirati Arabi Uniti, Singapore, Australia, Germania, Francia e Finlandia attende ancora le firme di Regno Unito e Stati Uniti. Il terzo è la domanda di fondo: per un agente che agisce da solo, dove finisce l’errore e dove inizia l’incidente?
Autore
Pablo Liuzzi
Founder, Synthos Logic