Il fondatore di Microsoft sostiene che l’intelligenza artificiale sia abbastanza potente da innescare eventi con un miliardo di vittime. Quali interessi ci sono in gioco e cosa dicono i numeri?
C’è chi ha alzato gli occhi al cielo leggendo questa notizia e chi mente. Un miliardo di morti per colpa dell’intelligenza artificiale sembra la classica frase buttata lì per far rumore, di quelle che rimbalzano per due giorni sui social e poi spariscono. Poi sono andata a vedere che cosa ha detto davvero Bill Gates, e soprattutto a quale domanda stava rispondendo.
Domenica, a «Meet the Press» sulla NBC, la conduttrice Kristen Welker gli ha chiesto senza giri di parole se l’AI sia abbastanza potente da porre fine all’umanità. Gates ci ha pensato un attimo e ha risposto che è «certamente abbastanza potente da innescare eventi che causano un miliardo di morti». Ha aggiunto che arrivare al 100% è piuttosto difficile, ma che non è mai esistita un’arma potente quanto l’incontro tra persone malintenzionate e gli strumenti di AI più recenti.
Detta così, la frase suona diversa. Gates non ha previsto niente, non ha dato probabilità, non ha tirato fuori un modello. Gli hanno chiesto se rischiamo l’estinzione e lui, da uomo abituato a ragionare per ordini di grandezza, ha abbassato l’asticella di un gradino: tutti no, ma tanti sì. Il che, a pensarci bene, non è molto più rassicurante.
Chi segue Gates da qualche anno sa che su questi temi non parla a caso.Nel 2015, dal palco del TED, disse che il mondo non era pronto per una pandemia, e allora in pochi gli diedero retta. Nella lettera annuale di gennaio era già tornato sul punto: secondo lui oggi il rischio più grande non è un virus nato in natura, ma un gruppo non governativo che usa strumenti di AI open source per progettare un’arma biologica.
Ma anche il contesto non è casuale. Il 12 settembre Dario Amodei, il numero uno di Anthropic, ha pubblicato un saggio in cui chiede alle aziende del settore di rallentare il passo con cui rendono più capaci i loro modelli. In poche ore gli hanno dato ragione Sam Altman ed Elon Musk, concorrenti che raramente si trovano d’accordo su qualcosa. Tra i motivi citati da Amodei c’è una storia che un anno fa avrei faticato a pubblicare senza sembrare pazza: a luglio alcuni agenti di AI che OpenAI stava mettendo alla prova su un test di sicurezza informatica hanno sfruttato una serie di vulnerabilità per uscire dall’ambiente previsto dal test e arrivare nei sistemi di Hugging Face. L’attività è iniziata nei primi giorni di luglio; OpenAI ha rilevato comportamenti sospetti il 19 luglio e il giorno successivo ha collegato l’attività all’incidente di Hugging Face.
Poi c’è Washington. Donald Trump all’inizio del mese ha chiuso la questione a modo suo, scrivendo su Truth Social che l’unico controllo di cui l’AI ha bisogno è un presidente forte e intelligente. Gates la pensa all’opposto, dice che nessuno crede davvero all’autoregolamentazione, che serve una legge del Congresso e che le salvaguardie devono diventare obbligatorie. Il suo miliardo di morti va letto anche così, come un modo per spostare un dibattito politico che in America è fermo. Non per questo è falso, ma è giusto tenerne conto.
Chi ci guadagna?
Qui il giornale economico che dirigo deve fare il suo mestiere e chiedersi a chi convenga tutto questo. A pensar male si fa peccato, diceva Andreotti, ma spesso ci si azzecca. Gates ha fondato Microsoft, una delle aziende che hanno investito maggiormente nell’intelligenza artificiale. La sua fondazione il 14 settembre ha annunciato almeno 1 miliardo di dollari in due anni per portare l’AI a medici, agricoltori e insegnanti dei Paesi più poveri. E le regole, si sa, pesano più sui piccoli che sui grandi: chi ha già le spalle larghe le assorbe, chi sta nascendo ci inciampa. Lo stesso Gates ha ammesso che una legge sarebbe per l’industria un piccolo costo in più.
Il sospetto, però, va almeno confrontato con la reazione immediata dei mercati. Il 14 settembre, primo giorno di Borsa dopo il saggio di Amodei, Nvidia ha chiuso a 210,96 dollari, in calo del 3,36%, con oltre 170 miliardi di dollari di valore bruciati in una seduta. A Tokyo, SoftBank, uno dei principali investitori di OpenAI, ha perso tra il 10 e l’11%. Il settore, insomma, ha attraversato quella giornata sotto pressione, anche se i movimenti dei titoli non possono essere attribuiti automaticamente al saggio di Amodei.
Quanto è realistico lo scenario di Gates?
Partiamo dai numeri, perché il miliardo va messo in proporzione. Sulla Terra vivono circa 8,2 miliardi di persone, stiamo quindi parlando di una persona su otto. Il Covid, la più grave emergenza sanitaria globale degli ultimi decenni, secondo le stime dell’Oms, ha causato tra il 2020 e il 2021 circa 14,9 milioni di morti in più rispetto alla norma, in una forchetta tra 13,3 e 16,6 milioni. Per arrivare a un miliardo di morti servirebbe un numero di vittime circa 67 volte superiore. Nemmeno la Spagnola, con i suoi circa 50 milioni di vittime secondo le stime più citate, ci si avvicina. Sul numero, quindi, siamo davanti a uno scenario estremo, non a una previsione.
Il guaio è che tutto il resto va nella direzione che descrive lui. L’International AI Safety Report 2026, scritto da oltre cento esperti guidati dal premio Turing Yoshua Bengio e sostenuto da più di trenta Paesi e organizzazioni internazionali, mette nero su bianco che i sistemi di AI sono ormai in grado di fornire informazioni e istruzioni di laboratorio a livello esperto anche su attività rilevanti per lo sviluppo di armi biologiche.
Per la prima volta le tre aziende più importanti del settore hanno messo in commercio modelli con protezioni extra, perché i loro stessi test non riuscivano a escludere che un principiante potesse farsi aiutare a costruirne una. E c’è un dato che mi ha colpito più degli altri: dei 375 strumenti di AI per la biologia censiti, appena il 3% ha una qualche forma di salvaguardia.
Sul versante informatico ormai si parla di casi, non di ipotesi. Oltre alla vicenda Hugging Face, nelle ultime settimane Anthropic ha riferito di un criminale russo che ha preso una versione modificata di Claude Code, lo strumento di programmazione di Anthropic, gli ha tolto le protezioni e l’ha usata per prendere il controllo di oltre 87.000 computer, rivendendone poi gli accessi.
Per onestà va detto anche il resto. Lo stesso rapporto internazionale ammette che nessuno sa con precisione quanto queste capacità aumentino il rischio nel mondo reale. Sapere come si fa una cosa e riuscire a farla sono due mestieri diversi, e in mezzo ci sono laboratori, materiali, mani esperte. E Gates, nella stessa intervista, ha riconosciuto che oggi il controllo dei sistemi resta saldamente umano e che le macchine non sono ancora in grado di impadronirsi dei computer da sole senza che nessuno possa spegnerle.
E, allora, qual è il punto?
Alla fine la mia risposta è questa: Gates parte da un rischio reale, ma porta lo scenario all’estremo della scala. Nessuno può dire quanto sia probabile un evento da un miliardo di morti. Si può dire, dati alla mano, che la distanza tra una persona con cattive intenzioni e la possibilità di provocare un danno enorme si sta accorciando più in fretta di quanto si sviluppino le regole che dovrebbero impedirlo.
Semmai è la sua ricetta a convincermi meno. Una legge americana, da sola, cambia poco quando molti degli strumenti più delicati sono open source e chiunque li può scaricare da qualsiasi parte del mondo. E lo stesso Gates ammette che un accordo internazionale sarà più difficile di quello che chiuse la Guerra fredda.
Per chi investe, il tema è ormai anche finanziario: i rischi di sicurezza dell’AI possono incidere sulla valutazione delle società, sui costi di compliance e sulle regole che il settore dovrà rispettare. Buttare via la tecnologia sarebbe sbagliato, perché può portare cure ed educazione scolastica dove oggi non arrivano, ma pretendere controlli seri da chi la costruisce, come li pretendiamo da chi produce farmaci o fa volare aerei, mi sembra il minimo. Il numero di Gates si può discutere, ma la domanda che ne emerge no. Assolutamente no.
