“Oltre il 10% di probabilità che l’AI uccida tutti”. Cosa c’è di vero nell’allarme di Anthropic?

Evan Hubinger, che dirige la ricerca sull’allineamento di Anthropic, ha scritto su X che a suo giudizio la probabilità che l’intelligenza artificiale uccida tutti gli esseri umani entro il prossimo decennio è superiore al 10%. Ha aggiunto che l’azienda per cui lavora, a suo avviso, sta facendo del proprio meglio, ma non ha ancora un piano per risolvere il problema e non è chiaramente sulla strada per averlo.

Anthropic sviluppa Claude, ha chiuso a maggio un round da 65 miliardi di dollari su una valutazione di 965 e secondo il Financial Times punta a debuttare in Borsa già in autunno con un valore che alcuni investitori collocano oltre i 2.000 miliardi. Hubinger è la persona incaricata, dentro quella società, di impedire l’esito che ha appena quantificato.

La tentazione, leggendo una notizia del genere, è archiviarla come l’ennesimo allarme apocalittico di un settore che ne produce in quantità industriale, ma sarebbe un errore. E allora, ecco un po’ di contesto.

leggi anche

Claude AI, come funziona e quanto costa l’alternativa a ChatGPT

All’inizio della settimana Jacob Coxon, ricercatore impegnato nel pretraining dei modelli, si è dimesso da Anthropic. Se ne va, secondo quanto riporta il Wall Street Journal, perché ritiene che la corsa verso sistemi capaci di migliorare sé stessi stia procedendo senza responsabilità, non solo nella sua azienda. Al quotidiano ha detto di considerare plausibile che già entro la fine del prossimo anno la situazione possa sfuggire di controllo.

Nei suoi post di commiato Coxon ha sostenuto che chi costruisce questa tecnologia crede davvero che possa ucciderci tutti, che non si tratta di marketing, e che dirigenti e ricercatori senior in pubblico ammorbidiscono il linguaggio mentre in privato dicono di avere paura. Nessun’altra attività umana, ha aggiunto, comporta un rischio paragonabile.

Hubinger ha citato quel thread su X e ha risposto che Coxon ha ragione, aggiungendo la sua probabilità stimata al 10% per cui l’intelligenza artificiale ucciderà tutti.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

In un messaggio successivo ha circoscritto il campo, richiamando l’ultimo rapporto sui rischi pubblicato dall’Anthropic e indicando come basso il pericolo dei modelli oggi in circolazione. Ciò che teme è la superintelligenza che potrebbe emergere dall’auto-miglioramento ricorsivo, sistemi che progettano versioni migliori di sé stessi, in una spirale che secondo Anthropic sta accelerando più del previsto. Non riguarda cioè il chatbot che qualcuno userà stasera per scrivere un’email, ma una capacità che i modelli attuali non hanno.

Hubinger non è un dirigente che si sia lasciato sfuggire qualcosa, ha semplicemente ripetuto, con una cifra leggermente diversa, ciò che l’azienda sostiene da quando esiste.

Anthropic nasce nel 2021 dalla scissione di un gruppo di dirigenti di OpenAI, tra cui Dario e Daniela Amodei, convinti che quella corsa fosse troppo rischiosa per come veniva condotta. La premessa fondativa è nota e non è mai stata nascosta, se sistemi estremamente potenti verranno costruiti comunque, è preferibile che a costruirli siano persone che ne temono le conseguenze.

Coerentemente, l’amministratore delegato dice in pubblico cose che nessun altro amministratore delegato dice. Al summit Axios del settembre 2025, alla domanda diretta su quale probabilità attribuisse a un esito disastroso, Amodei ha risposto 25%, aggiungendo di essere concentrato sul 75% di probabilità che vada molto bene. Ha poi precisato il ragionamento in più occasioni, sottolineando che quel rischio esiste a prescindere da Anthropic, è una caratteristica della tecnologia e non della singola azienda, e l’esistenza di Anthropic serve proprio a ridurlo.

Ma è anche una posizione che non ha precedenti in nessun altro settore regolamentato. Un’impresa farmaceutica che attribuisse al proprio farmaco una probabilità a due cifre di conseguenze letali non lo commercializzerebbe, lo dichiarerebbe all’autorità e lo ritirerebbe. Qui la dichiarazione è pubblica, ripetuta, firmata dai vertici e non produce alcuna conseguenza regolatoria. Il mercato la ascolta e continua a comprare.

leggi anche

Il trucco delle reti proxy per comprare GPT-5 e Claude Access con uno sconto fino al 97%

Quale impatto sull’IPO di Anthropic

I numeri di Anthropic ci parlano di un’accelerazione senza paragoni recenti. A febbraio 2026 la società valeva circa 380 miliardi, a maggio 965, quasi il triplo in meno di quattro mesi. I ricavi annualizzati hanno superato i 65 miliardi a fine luglio, circa sette volte il livello di fine 2025, con oltre 11,5 miliardi nel solo secondo trimestre contro i 787 milioni dello stesso periodo dell’anno precedente. Al round di maggio hanno partecipato Sequoia, Altimeter, Dragoneer, Greenoaks, ma anche Blackstone, Fidelity, Baillie Gifford e i fornitori di memoria Samsung, SK Hynix e Micron.

Se la quotazione arriverà davvero in autunno, quelle dichiarazioni non resteranno post su un social ma finiranno, in qualche forma, nella sezione dei fattori di rischio del prospetto, perché una società che si quota deve rappresentare i rischi noti della propria attività e le posizioni pubbliche dei suoi dirigenti apicali sono, giuridicamente, informazione nota. Come si scrive un fattore di rischio che contempla l’estinzione della specie è un problema che nessun ufficio legale ha mai dovuto affrontare.

C’è poi la questione regolatoria. Quando a giugno il Dipartimento del Commercio statunitense ha imposto restrizioni all’export sui modelli più avanzati, Anthropic ha dovuto sospendere l’accesso a due dei suoi sistemi di punta per tre settimane. Il tema dell’auto-miglioramento ricorsivo è finora rimasto fuori dal perimetro delle norme europee e americane, concentrate su trasparenza, dati e usi ad alto rischio. Una presa di posizione così esplicita da parte di chi quei sistemi li costruisce è esattamente il tipo di materiale che sposta l’attenzione dei legislatori.

Specifichiamo, infine, che non esiste un consenso scientifico sulla probabilità che l’intelligenza artificiale provochi l’estinzione dell’umanità, e la stima di Hubinger non è una previsione, quanto invece un giudizio soggettivo espresso su un social network, non il risultato di un modello sottoposto a revisione. Cifre di questo tipo circolano da anni nella comunità della ricerca sulla sicurezza - vengono chiamate informalmente p(doom) - e vanno da meno dell’1% a oltre il 50% a seconda di chi le pronuncia. Resta il fatto che a pronunciare la cifra non è stato un critico esterno né un concorrente, ma il responsabile della funzione aziendale che dovrebbe scongiurare quell’esito, il quale ha contestualmente ammesso di non sapere ancora come farlo.