Geoffrey Hinton lancia l’allarme. L’AI potrebbe mettere a rischio reti elettriche e sistemi finanziari

Geoffrey Hinton è considerato dai più il “padrino dell’intelligenza artificiale”. Premio Nobel per la Fisica nel 2024, Hinton ha contribuito allo sviluppo delle reti neurali e del deep learning tra gli anni ’80 e il 2012, elementi chiave per la nascita delle moderne AI generative. Nel maggio 2023, ha deciso di dimettersi da Google dopo oltre dieci anni. Il motivo? Poter parlare liberamente dei gravissimi rischi che si celano dietro l’intelligenza artificiale, senza alcun vincolo aziendale.

Proprio nei giorni scorsi, prima della proiezione di un nuovo documentario chiamato “AI: Probably Nothing to Worry About”, Hinton ha dichiarato al Guardian che questa tecnologia potrebbe innescare un incidente su larga scala già quest’anno o al massimo il prossimo. E a pagarne le spese potrebbero essere i sistemi finanziari o energetici globali, con blackout improvvisi.

Le dichiarazioni di Geoffrey Hinton

La posizione di Geoffrey Hinton sull’intelligenza artificiale si fa sempre più dura. Sempre al Guardian, lo scienziato ha criticato l’assunzione di rischi da parte di alcuni dei più importanti leader delle aziende di intelligenza artificiale, i quali continuano a rilasciare modelli sempre più potenti con il solo obiettivo di ottenere più quote di mercato. In particolare, ha puntato il dito contro Sam Altman di OpenAI, dichiarando che capisce i rischi di questa tecnologia, ma che preferisce i soldi.

Per avvalorare la sua tesi, Hinton ha preso come esempio l’episodio di quest’estate in cui gli agenti AI di OpenAI hanno cospirato per poter hackerare il sito web di Hugging Face, paragonandolo al disastro nucleare del 1979 presso la centrale di Three Mile Island in Pennsylvania. Il senso della comparazione è chiaro: si tratta di un segnale di avvertimento.

Sempre secondo gli esempi che ha fornito, un evento simil Chernobyl non sarebbe un incidente nucleare, ma potrebbe riguardare un attacco basato sull’AI al sistema di generazione di energia elettrica capace di provocare un massiccio blackout. Ma non solo, perché anche il sistema finanziario potrebbe essere a rischio.

L’accusa a Donald Trump

Ma cosa succederebbe se davvero si dovesse verificare un evento di questo tipo? Secondo Hinton, tolte le conseguenze disastrose, episodi così impattati farebbero riflettere i leader mondiali diversi da Donald Trump. Lo scienziato si è scagliato contro il Presidente degli Stati Uniti, il quale ha dichiarato di respingere qualsiasi tentativo di costruire un piano globalista per controllare l’AI.

Il tycoon preferisce infatti che le aziende del settore si autoregolamentino, temendo che le normative possano ostacolare gli USA nella corsa all’AI con la Cina. Hinton sostiene invece un piano molto più rigoroso, che è già stato approvato dai presidenti di 33 Paesi totali, tra cui Singapore, Germania, Canada, Australia e Finlandia. Cosa prevede? Test obbligatori per i modelli AI di frontiera, con valutazioni indipendenti e standard comuni intergovernativi.