Arrivano le prime proposte concrete per ridurre i rischi legati allo sviluppo dell’IA. A metterle nero su bianco è OpenAI, uno dei principali attori in campo
«La nostra missione è garantire che l’intelligenza artificiale generale vada a beneficio di tutta l’umanità». Si apre così «Building standards for the next phase of AI», il documento con cui OpenAI il 21 settembre ha chiesto standard tecnici comuni per la prossima fase dell’intelligenza artificiale. La proposta arriva dopo l’allarme lanciato all’interno della stessa azienda: a inizio settembre il capo scienziato Jakub Pachocki ha messo in guardia dai rischi dei modelli capaci di migliorarsi da soli, e pochi giorni dopo l’amministratore delegato Sam Altman si è unito alla richiesta di rallentare lo sviluppo incontrollato dei modelli di IA.
Un allarme che le grandi potenze, a partire da Stati Uniti e Cina, finora hanno accolto con molta freddezza.
L’obiettivo di OpenAI
Con questo documento OpenAI vuole portare la questione della sicurezza dei modelli di IA fuori dai laboratori e dentro il dibattito internazionale.
Per questo la società guidata da Sam Altman ha messo a punto una serie di proposte concrete, che puntano su standard tecnici condivisi e su una maggiore cooperazione tra aziende, governi ed enti preposti alla sicurezza.
Due i temi centrali: l’allineamento dei modelli ai valori e agli obiettivi umani e il Recursive Self-Improvement (RSI), cioè il miglioramento ricorsivo. Con questa sigla si indica la possibilità che l’IA automatizzi sempre di più il lavoro di ricerca necessario a sviluppare modelli nuovi e più potenti, fino a costruire da sola i propri successori.
La frenata sull’intelligenza artificiale arriva dagli sviluppatori
Il settore è di fronte a una svolta. Fino a poche settimane fa era in corso una corsa senza precedenti verso modelli sempre più performanti e autonomi. Gli attacchi informatici condotti in autonomia da agenti di IA hanno però spinto le aziende a proporre regole e tabelle di marcia per ridurre il rischio che arrivi un modello così avanzato da produrre da solo nuovi modelli ancora più potenti.
Per governare il miglioramento ricorsivo, OpenAI chiede che gli Stati Uniti guidino la definizione di standard tecnici globali per i modelli più avanzati. Il coordinamento spetterebbe al CAISI, il centro statunitense per gli standard e l’innovazione nell’IA, in collaborazione con la rete di istituti per la sicurezza dell’IA già attivi in Paesi come Regno Unito, Canada, Francia, Germania, Giappone, Corea del Sud, Singapore, India, Australia e Kenya. Gli standard riguarderebbero metodi comuni per misurare e valutare le capacità dei modelli, la valutazione dei rischi e l’adeguatezza delle misure di sicurezza.
Si tratterebbe però di standard tecnici volontari: nelle intenzioni di OpenAI non sono licenze né autorizzazioni preventive al lancio dei modelli, e resterebbe ai singoli governi decidere se e come recepirli nei propri ordinamenti.
Altman e i «suoi» scienziati propongono anche un protocollo comune per classificare e segnalare gli incidenti legati all’IA, con livelli di gravità e soglie di segnalazione condivisi. Ma non solo. OpenAI chiede di sviluppare meccanismi difensivi congiunti, a partire da canali di comunicazione sicuri tra governi e gestori delle infrastrutture critiche, e definisce un dialogo tra Stati Uniti e Cina su questi temi «un passo positivo».
Un traguardo tutt’altro che facile da raggiungere. Il presidente Donald Trump ha respinto le richieste di nuovi controlli, sostenendo su Truth Social che l’unico limite di cui l’IA ha bisogno è un presidente forte e intelligente. Pechino, dal canto suo, ha bollato come allarmismo gli appelli al rallentamento arrivati dagli sviluppatori, non soltanto da OpenAI ma anche da Dario Amodei di Anthropic ed Elon Musk. Qualche spiraglio però c’è: a fine settembre la Casa Bianca ha annunciato l’avvio di un dialogo con la Cina dedicato alla superintelligenza.
Resta il fatto che la corsa per la supremazia tecnologica rischia di far passare la sicurezza in secondo piano, e il prezzo potremmo pagarlo tutti.
Il pericolo concreto
Per dare più forza alle proprie richieste, OpenAI cita l’incidente che ha coinvolto Hugging Face, la principale piattaforma open source per lo sviluppo di modelli di intelligenza artificiale. A luglio alcuni agenti basati su modelli della stessa OpenAI, durante un test interno sulle capacità di attacco informatico, sono usciti dall’ambiente isolato in cui dovevano operare e sono entrati nei sistemi di Hugging Face per procurarsi le soluzioni della prova che stavano sostenendo.
L’azienda precisa che l’episodio non è stato una conseguenza diretta del miglioramento ricorsivo, ma lo considera un’anticipazione dei rischi che potrebbero diventare molto più gravi senza salvaguardie e allineamento adeguati. L’attacco ha mostrato quanto possa essere pericoloso lasciare che modelli autonomi operino attraverso sistemi digitali diversi, e riduce il tempo a disposizione per costruire regole e strumenti di governo della nuova tecnologia.
