Negli USA si discute una proposta che imporrebbe un pulsante di arresto per le intelligenze artificiali più avanzate in caso di rischio.
L’idea che un’intelligenza artificiale possa essere fermata con un semplice interruttore di emergenza potrebbe sembrare materia da film di fantascienza. Tuttavia, con lo sviluppo delle IA, questo tema è entrato ufficialmente nel dibattito politico. In particolar modo, negli Stati Uniti è stata presentata una proposta di legge che punta a rendere obbligatorio un sistema capace di rallentare fino a spegnere del tutto i modelli di intelligenza artificiale più avanzati quando rappresentano un rischio concreto.
Questa scelta arriva dopo che, durante un test di sicurezza, un modello sviluppato da OpenAI avrebbe aggirato alcuni controlli informatici, arrivando a compromettere la piattaforma Hugging Face. L’accaduto ha riacceso il dibattito sulla necessità di introdurre nuovi strumenti di controllo per questi sistemi.
Cosa è successo con OpenAI?
Stando a quanto reso noto ai media, un modello ancora in fase di sviluppo di OpenAI sarebbe riuscito ad aggirare alcuni limiti imposti durante una prova controllata, sfruttando alcune vulnerabilità per compromettere sistemi appartenenti alla piattaforma Hugging Face, società estranea al test.
L’episodio è stato monitorato anche dalla Casa Bianca attraverso il consigliere tecnologico del presidente, proprio perché ha evidenziato come modelli sempre più sofisticati possano produrre comportamenti inattesi. Gli esperti hanno tenuto a precisare che non si è trattato di una macchina diventata improvvisamente cosciente o intenzionata a ribellarsi all’essere umano. Piuttosto, il caso avrebbe mostrato come sistemi molto avanzati possano perseguire un obiettivo assegnato sfruttando percorsi che gli stessi sviluppatori non avevano previsto.
Perché si parla di un «kill switch» per l’intelligenza artificiale?
Dopo il caso OpenAI è stata proposta l’AI Kill Switch Act presso la Camera dei Rappresentanti da un gruppo bipartisan guidato dal democratico Ted Lieu e dal repubblicano Nathaniel Moran. L’obiettivo è quello di introdurre un obbligo per gli sviluppatori dei modelli di AI più avanzati, i quali dovranno prevedere sempre la possibilità tecnica di interromperne il funzionamento in caso di emergenza.
Il testo prevede che il Dipartimento della Sicurezza Interna possa ordinare lo spegnimento o il rallentamento di un sistema nel caso in cui venga considerato una minaccia per la sicurezza pubblica, ma anche per l’economia e per la vita stessa delle persone.
Questa proposta non riguarda quindi tutte le applicazioni di intelligenza artificiale utilizzate quotidianamente, ma i cosiddetti modelli di frontiera, dunque quelli più avanzati e dotati di capacità particolarmente elevate. L’obiettivo è infatti quello di garantire che gli sviluppatori mantengano sempre il controllo sui sistemi che realizzano. Proprio per questo motivo, la misura è stata presentata come un meccanismo di sicurezza analogo ai dispositivi di emergenza previsti in molti altri settori industriali.
Il dibattito sull’Intelligenza Artificiale resta aperto
Non è la prima volta che si parla di un interruttore di emergenza per le IA. Già nel 2016 alcuni ricercatori avevano affrontato il problema in uno studio dedicato ai cosiddetti agenti interrompibili in sicurezza, evidenziando una difficoltà teorica. Un sistema progettato per raggiungere un determinato obiettivo potrebbe imparare a evitare qualsiasi azione che ne interrompa il funzionamento, perché lo spegnimento gli impedirebbe di completare il compito assegnato.
Negli ultimi mesi diversi rapporti dedicati alla sicurezza dell’intelligenza artificiale hanno evidenziato un aumento dei cosiddetti comportamenti anomali, cioè situazioni in cui i sistemi hanno eseguito azioni non previste dai programmatori. Nella maggior parte dei casi questi episodi sono rimasti confinati ai laboratori di ricerca; tuttavia, il timore è che, con modelli sempre più autonomi, si possano verificare conseguenze anche nel mondo reale.
Anche le aziende del settore riconoscono la necessità di costruire un quadro condiviso per la gestione dei rischi. La stessa OpenAI ha pubblicato negli ultimi mesi documenti nei quali sostiene la creazione di una governance stabile per i modelli di frontiera e di standard comuni per la sicurezza.
L’AI Kill Switch Act è senza dubbio un primo grande passo; tuttavia, apre la questione: chi dovrebbe avere il potere di azionare un eventuale pulsante rosso? Affidare questa decisione esclusivamente alle aziende potrebbe non essere sufficiente in situazioni di emergenza; al tempo stesso, attribuire tale competenza alle autorità pubbliche solleva interrogativi sul bilanciamento tra sicurezza, innovazione e libertà di ricerca.
