Gli esperti RAND avvertono: un’Intelligenza Artificiale troppo sviluppata potrebbe incoraggiare gli umani a prendere decisioni catastrofiche, come premere il famoso pulsante rosso...
L’Intelligenza Artificiale potrebbe far scoppiare una guerra nucleare entro il 2040. A lanciare l’allarme e spiegare in che modo l’AI può essere un rischio per la pace nel mondo sono i ricercatori della RAND Corporation, think thank statunitense che opera in California ma presente anche in Europa.
La società no profit, centro della strategia nucleare della nazione, nata dopo la seconda guerra mondiale, negli anni si è guadagnata la reputazione di luogo in cui si trovano nuovi modi per condurre guerre e per tenere a bada i nemici. Negli anni ’60, mentre i sovietici soprannominavano RAND “l’accademia della scienza, morte e distruzione”, gli americani preferivano chiamare i suoi esperti “i maghi dell’Armageddon”.
Una guerra nucleare causata dall’AI
Ora la RAND ha pubblicato un nuovo documento di ricerca che avverte: da qui a vent’anni l’AI potrebbe minare la stabilità geopolitica e portare all’uso delle armi nucleari per creare un vero e proprio conflitto globale e distruttivo. Se la pace è stata mantenuta per decenni a causa dell’idea che qualsiasi attacco nucleare potrebbe innescare la distruzione del pianeta e del genere umano, l’Intelligenza Artificiale e il potenziale dell’apprendimento automatico per decidere le azioni militari potrebbe far sì che questo equilibrio si rompa, avvertono gli studiosi di RAND.
Nel paper vengono, quindi, evidenziati i pericoli dell’uso dell’AI in ambito militare piuttosto che quelli derivanti da droni autonomi o altri cosiddetti robot killer.
Secondo il documento, le macchine in futuro potrebbero incoraggiare gli umani a prendere decisioni catastrofiche. L’implementazione della tecnologia sensoriale, ad esempio, potrebbe comportare la distruzione di forze di rappresaglia come i missili sottomarini. L’AI potrebbe anche tentare una nazione a lanciare un attacco preventivo contro un’altra nazione per ottenere il potere contrattuale anche se non ha intenzione di portare a termine un attacco.
Un esempio: l’attacco missilistico del 1983
Nel 1983 l’ex ufficiale militare sovietico Stanislav Petrov ricevette un segnale dal computer che avvertiva che gli Stati Uniti avevano lanciato diversi missili. L’uomo, però, intuì che il computer stava sbagliando e decise, assumendosi una grande responsabilità, di non rispondere all’attacco. Petrov, che è morto l’anno scorso, viene ricordato oggi come l’uomo che ha salvato il mondo dalla devastazione nucleare.
Gli studiosi di RAND hanno citato proprio questo episodio di falso allarme nucleare per dire che “la connessione tra guerra nucleare e Intelligenza Artificiale non è nuova, anzi, le due sono strettamente legate”, spiega Edward Geist, co-autore del paper e ricercatore associato della corporation.
La profezia di Elon Musk
L’avvertimento della RAND non è una voce isolata. Molti imprenditori ed esperti di nuove tecnologie hanno messo in guardia contro l’uso dell’Intelligenza Artificiale in ambito militare. Tra questi Elon Musk, che figura tra i 100 esperti di AI che hanno invitato le Nazioni Unite a prevenire lo sviluppo di armi letali autonome. Il CEO di Tesla e SpaceX ha detto che i robot potrebbero creare un “dittatore immortale dal quale non potremo mai scappare” e che la tecnologia potrebbe causare la terza guerra mondiale.
Lo scorso settembre Musk è tornato sull’argomento, dando vita a un intenso dibattito su Twitter. “Cina, Russia, presto tutte le nazioni forti nell’informatica svilupperanno sistemi d’intelligenza artificiale”. La competizione per la superiorità potrà causare la terza guerra mondiale”. A dare lo spunto al tweet, un discorso di Vladimir Putin che aveva detto “L’AI porta enormi possibilità ma anche minacce difficili da prevedere. Chiunque diventi leder nel settore AI sarà il sovrano del mondo”. Non è dello stesso parere Mark Zuckerberg, che ha definito gli scenari apocalittici proposti da Musk & co “piuttosto irresponsabili”.
© RIPRODUZIONE RISERVATA
