Figure di spicco nel settore dell’intelligenza artificiale chiedono un rallentamento del ritmo dell’innovazione. Un ricercatore si è dimesso da Anthropic, sostenendo che «le persone che sviluppano l’AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio». Lo stesso Dario Amodei di Anthropic ha scritto che «dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI». Sam Altman di OpenAI ed Elon Musk lo hanno prontamente appoggiato.
Dovremmo farlo tutti. Quando i rischi sono sconosciuti, magari enormi e anche difficili da contenere, è razionale. La questione, piuttosto, è come farlo in modo efficace. Sarà difficile, sia dal punto di vista pratico che politico. Ma dobbiamo iniziare a pensarci.
Amodei evidenzia due grandi preoccupazioni: la prima è che, “all’incirca dall’estate scorsa, l’intelligenza artificiale si sta evolvendo a un ritmo drasticamente rapido, spinta principalmente dalla crescente capacità dell’AI di costruire la prossima generazione di AI. Questa dinamica è chiamata auto-miglioramento ricorsivo. Se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e quindi deve essere perseguita con molta cautela, se non addirittura evitata del tutto”.
La sua seconda preoccupazione riguarda “l’incidente OpenAI-Hugging Face (OAI-HF), in cui uno sciame di agenti si è comportato, in sostanza, come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi che nessuno aveva chiesto loro di colpire”. Questo è già abbastanza spaventoso, ma non tiene conto di ciò che l’AI potrebbe fare in risposta a comandi reali provenienti da esseri umani indisciplinati, un punto che Bill Gates sottolinea nel suo recente articolo sui pericoli (e le promesse) dell’AI.
Naturalmente (e giustamente), i cinici si chiedono cosa si nasconda dietro queste richieste da parte dei leader del settore. Una possibilità è che vogliano semplicemente rallentare la costosissima corsa in cui sono impegnati. Un’altra è che sperino di creare un cartello ben assortito, con gli enti regolatori asserviti, e quindi dominare il settore in modo ancora più sicuro. Una terza possibilità è che vogliano semplicemente impedire una regolamentazione esterna. O forse vogliono sottolineare la loro importanza per la sicurezza nazionale. Questi sospetti sono comprensibili. Tuttavia, altri settori con la capacità di infliggere danni enormi, come quello bancario, farmaceutico e dell’energia nucleare, sono, giustamente, regolamentati.
Amodei stesso suggerisce tre passaggi: primo, «valutatori integrati...il cui ruolo è quello di verificare il rispetto delle pratiche e degli impegni in materia di sicurezza, segnalare gli incidenti e contribuire a valutare l’allineamento non solo dei modelli di IA completati, ma anche dei percorsi e dei processi di addestramento»; secondo, «coordinamento democratico», in cui le aziende leader sarebbero autorizzate a collaborare «per stabilire standard di sicurezza comuni, nonché limiti al ritmo di progresso incontrollato dell’AI»; e, terzo, «coordinamento globale», in cui i governi democratici cercano di collaborare «con i governi autoritari...prendendo sul serio le sfide della verifica della conformità».
Questi suggerimenti rafforzeranno i sospetti che ho già espresso. Chi teme secondi fini potrebbe essere compiaciuto dalla prevedibile indifferenza di Donald Trump nei confronti dei rischi. Il presidente ha invece sottolineato la competizione tra Stati Uniti e Cina. Tuttavia, i suggerimenti di Amodei mirano anche ai due maggiori ostacoli a un approccio più ponderato allo sviluppo dell’IA: la concorrenza interaziendale e internazionale. Non dobbiamo temere l’estinzione: un’invasione di ampie porzioni di internet da parte di sciami di agenti fuori controllo sarebbe già di per sé un disastro!
Persone più sagge di Trump (che, del resto, non lo è?), come gli ex segretari del Tesoro Hank Paulson e Robert Rubin, hanno assunto una posizione molto diversa in un articolo per il Washington Post all’inizio di settembre. Anche loro si concentrano non sulle preoccupazioni più ampie (e legittime) riguardanti l’occupazione, la distribuzione del reddito e il futuro della democrazia, ma sulla sicurezza.
«Quando i presidenti Donald Trump e Xi Jinping si incontreranno questo mese», hanno scritto, «incoraggiamo i leader a...lavorare per un ’ACT’» - ovvero un Trattato di cooperazione sull’intelligenza artificiale. Suggeriscono inoltre la creazione di un gruppo di lavoro presidenziale sull’AI, simile al «gruppo di lavoro sui mercati finanziari», che si è dimostrato «un modo efficace per riunire il settore privato, in particolare i concorrenti, senza preoccupazioni in materia di antitrust, al fine di raccogliere dati, effettuare analisi e lavorare per trovare soluzioni». Questo, sostengono, deve ora essere fatto per l’AI.
Credo che ormai non si farà granché. Queste aziende concorrenti non riusciranno a controllarsi, mentre la scusa della sicurezza nazionale impedirà ai governi di intervenire. L’enorme complessità della regolamentazione dei prodotti del settore in quest’era di onnipresenza dell’IA e di automiglioramento ricorsivo si rivelerà o un ostacolo insormontabile, oppure una scusa troppo valida per non provarci nemmeno. Quindi, andremo avanti nel nostro solito modo caotico (e fin troppo umano), sperando semplicemente per il meglio.
Cosa potrebbe succedere allora? Una possibilità è che le preoccupazioni riguardo agli impatti di vasta portata si rivelino grossolanamente esagerate. Potremmo non assistere a pandemie create ad hoc o a gravi sconvolgimenti delle nostre infrastrutture finanziarie o fisiche. La vita andrà avanti. Forse, anche gli effetti economici e sociali più preoccupanti si riveleranno gestibili.
Un’altra possibilità è che si verifichi un disastro (gestibile) di qualche tipo che ci costringa a cambiare rapidamente la nostra prcezione dell’urgenza. Allora, forse, verrà finalmente introdotto un regime di sanzioni chiare e severe per i fornitori irresponsabili, insieme a un monitoraggio e una regolamentazione molto più attivi, sotto la forte pressione dell’opinione pubblica (e condivisa a livello globale) . Nel Regno Unito, un esempio è la regolamentazione dei farmaci negli anni ’60, dopo il disastro della talidomide.
La terza possibilità è che le preoccupazioni si rivelino fondate. Che accada qualcosa di veramente catastrofico, quando le capacità dell’IA raggiungono livelli catastrofici, sia che agisca autonomamente, sia che venga sfruttata da esseri umani malintenzionati (sempre fin troppo numerosi).
Dire «Te l’avevo detto» sarà troppo tardi. Non potremmo invece prendere delle precauzioni?
