Il CEO di Anthropic ha pubblicato un saggio dove espone i potenziali rischi dell’intelligenza artificiale del futuro. Senza le regolamentazioni necessarie, l’AI potrebbe causare eventi catastrofici.
Nonostante sia alla guida di una delle aziende di intelligenza artificiale più influenti del panorama tecnologico globale, Dario Amodei, CEO di Anthropic, ha lanciato una serie di avvertimenti sul futuro dell’AI che possono essere definiti, senza mezzi termini, come catastrofici.
In un saggio di 38 pagine intitolato “L’adolescenza della tecnologia: affrontare e superare i rischi di un’intelligenza artificiale potente”, l’imprenditore italoamericano traccia una mappa dei principali pericoli per la civiltà derivanti da uno sviluppo eccessivamente sconsiderato dell’intelligenza artificiale che, secondo lui, “potrebbe arrivare tra appena 1-2 anni” e rappresenterebbe “la minaccia più grave alla sicurezza nazionale che abbiamo affrontato in un secolo, forse in assoluto”. Tra i potenziali rischi previsti da Amodei, ci sono scenari inquietanti come lo shock occupazionale, bioterrorismo, la deriva autocratica dell’AI e una crescente concentrazione della ricchezza.
Termini forti, pronunciati però con piena cognizione di causa. L’azienda guidata da Amodei ha infatti sviluppato Claude, uno dei sistemi LLM più avanzati al mondo. All’interno di Anthropic, inoltre, l’intelligenza artificiale è già responsabile di circa il 90% del codice necessario allo sviluppo dei prodotti dell’azienda, compresa la stessa AI che li alimenta. Ecco quali sono le previsioni più catastrofiche sul futuro dell’intelligenza artificiale secondo il CEO.
Disgregazione e massiccia perdita di posti di lavoro
Secondo Amodei, esiste il rischio concreto che l’intelligenza artificiale possa eliminare fino al 50% dei lavori impiegatizi di livello base entro 1-5 anni. Storicamente, le innovazioni tecnologiche hanno prima aumentato produttività e salari e poi ridotto l’occupazione in specifici settori, senza tuttavia distruggere il lavoro nel suo complesso. I lavoratori si sono spostati verso nuove attività, come avvenuto con il passaggio dall’agricoltura all’industria e poi ai lavori basati sulla conoscenza.
Secondo il CEO di Anthropic, tuttavia, l’AI rappresenta una rottura rispetto al passato, poiché il suo sviluppo procede a una velocità molto superiore rispetto alle precedenti rivoluzioni tecnologiche, rendendo difficile per individui e mercati del lavoro adattarsi in tempi utili.
Inoltre, oltre a sostituire mansioni specifiche, l’intelligenza artificiale replica un’ampia gamma di capacità cognitive umane e, di conseguenza, va a colpire molti lavori simili tra loro, soprattutto quelli impiegatizi. Questo rende più complesso per i lavoratori spostarsi verso occupazioni alternative. L’automazione tende inoltre a progredire dal basso verso l’alto nella scala delle competenze, rischiando di penalizzare le persone con minori capacità cognitive e di aumentare fortemente le disuguaglianze salariali.
Secondo Amodei, la lenta diffusione dell’AI nell’economia globale può ritardare gli effetti, ma solo temporaneamente, soprattutto considerando la rapidità di adozione e la prontezza delle startup nel superare le inerzie delle grandi aziende. La migrazione degli impiegati verso lavori fisici offre un margine limitato, poiché molti di questi sono già automatizzati o lo saranno presto tramite robot guidati dall’intelligenza artificiale. Anche il valore del contatto umano, pur rilevante in alcuni settori, difficilmente basterà a compensare l’ampiezza dello shock occupazionale.
Allarme di bioterrorismo
Nel suo saggio, Dario Amodei lancia un chiaro allarme sui rischi bioterroristici legati alla diffusione di modelli di intelligenza artificiale sempre più potenti. Anche ipotizzando che i problemi di autonomia dell’AI siano stati risolti e che questi sistemi agiscano pienamente secondo gli interessi umani, il CEO avverte che rendere l’“AI superintelligente” accessibile a individui e organizzazioni di tutto il mondo potrebbe abbassare drasticamente le barriere che oggi limitano l’accesso a strumenti di distruzione di massa. In particolare, l’intelligenza artificiale rischia di spezzare la tradizionale correlazione tra movente e capacità, fornendo competenze avanzate a persone che potrebbero avere intenzioni violente ma non le conoscenze tecniche necessarie per agire.
Secondo Amodei, il settore più pericoloso è proprio la biologia, perché combina un enorme potenziale distruttivo con grandi difficoltà di difesa. Oltre a fornire informazioni teoriche, i modelli linguistici avanzati potrebbero guidare passo dopo passo utenti con scarse conoscenze attraverso processi complessi, come la progettazione e la diffusione di agenti biologici.
Anche se questi scenari restano incerti e rari, l’entità delle conseguenze - potenzialmente milioni, se non miliardi, di vittime - impone di considerarli come un rischio di primo piano. Per questo Amodei sostiene la necessità di forti misure preventive, che includano limiti tecnici sui modelli, interventi normativi nelle difese sanitarie, sottolineando che affidarsi alla sola improbabilità degli attacchi sarebbe una protezione troppo fragile.
Un abuso di potere da parte dei governi autoritari
Per Dario Amodei, un altro dei rischi più inquietanti dell’intelligenza artificiale riguarda la possibilità che l’AI diventi uno strumento strutturale di dominio politico. Sistemi di AI sempre più potenti potrebbero consentire a Stati e grandi attori istituzionali di esercitare un controllo senza precedenti sulle popolazioni, superando i limiti che oggi rendono le autocrazie, per quanto oppressive, ancora in parte vulnerabili. A differenza dei regimi tradizionali, infatti, un’autorità fondata sull’intelligenza artificiale potrebbe sorvegliare e reprimere in modo continuo e automatico, senza il bisogno di affidarsi agli esseri umani.
Amodei descrive uno scenario in cui armi completamente autonome, sorveglianza di massa basata sull’analisi di enormi quantità di dati, propaganda iper-personalizzata e consulenza strategica avanzata si combinano per consolidare il potere e neutralizzare il dissenso prima ancora che emerga.
L’AI diventerebbe così uno strumento di controllo psicologico e sociale, capace di influenzare le opinioni del popolo nel lungo periodo. Potenzierebbe i regimi autoritari già esistenti e allo stesso tempo danneggerebbero le democrazie che, pur disponendo di garanzie istituzionali, potrebbero vederle progressivamente aggirate da tecnologie che richiedono pochissime persone per essere gestite.
Sul piano geopolitico, Amodei avverte che un vantaggio decisivo nell’intelligenza artificiale potrebbe alterare profondamente gli equilibri globali e aprire la strada a nuove forme di dominio. Anche in uno scenario di equilibrio tra più potenze dotate di AI avanzata, il risultato potrebbe essere un mondo frammentato in sfere autoritarie stabili e difficili da rovesciare. Per questo, conclude Amodei, prevenire l’uso dell’AI come leva per la presa e il consolidamento del potere politico è una priorità cruciale quanto per il settore economico e della sicurezza.
© RIPRODUZIONE RISERVATA
