AI fuori controllo? Perché i ricercatori stanno abbandonando i colossi della tecnologia

Le dimissioni di Jacob Coxon da Anthropic, colosso dell’IA, hanno acceso nuovamente il dibattito sul futuro dell’intelligenza artificiale. Il ricercatore ventisettenne non ha lasciato il suo impiego alla ricerca di nuovi sbocchi professionali, ma contestualmente alle dimissioni ha lanciato l’allarme sulla direzione che sta prendendo la corsa ai sistemi di intelligenza artificiale più avanzati.

Coxon ritiene che le grandi aziende tecnologiche stiano accelerando la corsa verso i sistemi capaci di migliorare autonomamente le proprie capacità senza avere ancora garanzie sufficienti sulla loro sicurezza.

Perché Jacob Coxon si è dimesso da Anthropic?

Jacob Coxon ha affidato a un post su X le ragioni della sua decisione, riconducendole alla direzione presa dalla ricerca sull’intelligenza artificiale. Secondo il ricercatore, Anthropic e OpenAI sarebbero impegnate in una corsa verso la superintelligenza senza che i rischi legati a questa siano ancora adeguatamente gestiti.

Secondo Coxon le due aziende stanno “correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite.” Il ventisettenne ha poi aggiunto che:

“Le persone che sviluppano l’AI credono sinceramente che possa ucciderci tutti entro la fine del decennio. Non è una trovata di marketing. [...] Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali.”

Perché una superintelligenza capace di migliorarsi preoccupa i ricercatori

Per comprendere la preoccupazione del ventisettenne, occorre guardare a come funzionano i modelli attuali e a cosa potrebbe cambiare a breve. Il punto di partenza è il divario tra le tecnologie attuali e lo scenario futuro. Oggi le IA possono aiutare gli sviluppatori a scrivere il proprio codice, individuare autonomamente alcuni errori e proporre modifiche, ma non sono ancora in grado di gestire in modo autonomo e affidabile il processo necessario a progettare e migliorare sistemi di IA sempre più potenti.

Il vero timore dei ricercatori nasce però da ciò che accadrà quando questo limite verrà superato. Si ipotizza infatti un meccanismo di accelerazione incontrollabile, in cui una IA sufficientemente avanzata potrebbe iniziare a progettare e migliorare la generazione successiva, la quale, a sua volta, svilupperebbe sistemi ancora più capaci innescando un ciclo infinito.

Un sistema di questo tipo porterebbe le intelligenze artificiali a progredire a una velocità tale da superare la capacità umana di testarle e, di conseguenza, di comprendere o prevedere come reagiranno davanti a situazioni inedite.
A esasperare questo scenario si aggiunge la spinta competitiva delle aziende, pronte a superarsi l’una con l’altra pur di dominare il mercato. Coxon sostiene infatti che persino in un laboratorio all’avanguardia come Anthropic “la posta in gioco è ben compresa, ma si è intrappolati in una corsa a perdifiato per arrivare primi, spesso a discapito della cautela.”

Cosa potrebbe fare un’AI fuori dal controllo umano?

Un sistema avanzato è in grado di scrivere ed eseguire codice, riesce a individuare le vulnerabilità e può interagire con software e portare avanti autonomamente una serie di operazioni. Il problema potrebbe nascere nel momento in cui queste capacità vengono concentrate in un sistema dotato di grande autonomia.

Se un’AI fosse in grado di perseguire un obiettivo attraverso strategie non previste dagli sviluppatori, potrebbe utilizzare gli strumenti a sua disposizione per aggirare alcuni dei limiti imposti in fase di progettazione.

Non si teme quindi che una macchina possa conquistare il mondo, quanto piuttosto che possa diventare difficile fermarla nel momento in cui abbia accesso a strumenti e risorse esterne.

Negli ultimi mesi abbiamo avuto alcuni assaggi dei problemi legati all’autonomia delle IA. Anthropic e OpenAI hanno riferito casi in cui agenti di AI hanno superato ambienti di test e raggiunto sistemi informatici reali senza autorizzazione. Gli episodi sono stati contenuti e le aziende hanno introdotto ulteriori misure di sicurezza.

Cresce la preoccupazione dei ricercatori verso le IA superintelligenti

Nonostante le rassicurazioni e i protocolli dei laboratori, lo scetticismo interno rimane alto. Coxon, infatti, non è il primo ricercatore a manifestare preoccupazioni in merito ai futuri sviluppi delle intelligenze artificiali. Prima di lui, anche Evan Hubinger, ricercatore di Anthropic specializzato nell’allineamento dei sistemi AI, aveva espresso una forte preoccupazione verso le intelligenze in grado di automigliorarsi.

Per l’esperto c’è oltre il 10% delle possibilità che un’AI di questo tipo possa arrivare a uccidere l’umanità entro il prossimo decennio. Al centro dei suoi timori ci sarebbe proprio l’allineamento, quindi la necessità di fare in modo che il comportamento di un sistema rimanga coerente con gli obiettivi e i limiti stabiliti dagli esseri umani. Secondo Hubinger, Anthropic sta lavorando su questo problema, ma non esiste ancora un metodo risolutivo per garantire l’allineamento di una futura superintelligenza.

Tra i precedenti più celebri di questa frattura interna spicca poi quello di Geoffrey Hinton, uno dei pionieri che hanno contribuito allo sviluppo delle reti neurali alla base dell’attuale boom tecnologico. Nel 2023, Hinton ha lasciato Google dopo circa dieci anni di collaborazione proprio per poter parlare pubblicamente, e senza vincoli aziendali, dei rischi esistenziali legati allo sviluppo di sistemi sempre più potenti.

leggi anche

I lavori che l’intelligenza artificiale non potrà mai sostituire

La sicurezza dell’intelligenza artificiale sta diventando una priorità anche per gli stessi scienziati che si occupano di sviluppare i modelli. Resta da capire se gli attuali protocolli di sicurezza saranno sufficienti a governare lo sviluppo dei futuri sistemi di IA avanzata.