Negli ultimi anni, tra i magnati della Silicon Valley, è iniziato a serpeggiare il timore che l’intelligenza artificiale, una volta raggiunta la singolarità, possa rappresentare un pericolo per l’umanità.
L’intelligenza artificiale può diventare una minaccia per l’umanità?
Sono numerose e disparate le correnti di pensatori, comprese le voci critiche all’interno del transumanesimo, di coloro che iniziano a preoccuparsi del futuro dell’umanità.
Bill Gates, per esempio, seguendo l’allarme lanciato da Elon Musk e dall’astrofisico Stephen Hawking, è intervenuto nel dibattito sui possibili scenari che si aprirebbero a seguito dello sviluppo di una IA e ha espresso la sua preoccupazione:
«Sono tra quelli preoccupati per la super intelligenza […] All’inizio le macchine faranno molto lavoro per noi e non saranno super intelligenti. Questo sarà positivo se ben gestito […] Alcuni decenni più tardi, tuttavia, l’intelligenza sarà forte abbastanza da diventare una preoccupazione» .
L’appello di Nick Bostrom
Anche il filosofo transumanista Nick Bostrom nel suo libro Superintelligenza, prevede quali possono essere i superpoteri e le strategie che una IA divenuta superintelligente potrebbe usare contro di noi: dall’hackeraggio per sfuggire al controllo dei suoi “guardiani” umani, a un vero e proprio attacco in cui potrebbe eliminare: «la specie umana e qualunque sistema automatico creato dagli esseri umani che possa opporsi in modo intelligente all’esecuzione dei suoi piani. Questo obiettivo potrebbe essere raggiunto mediante l’attivazione di qualche sistema d’arma avanzato che l’IA ha messo a punto usando il superpotere di ricerca tecnologica e installato in segreto durante la fase di preparazione clandestina» .
Insomma, una sfida tecnologica potrebbe diventare una sfida per la sopravvivenza.
L’editoriale di Henry Kissinger
Alle voci critiche sul futuro dell’IA si è aggiunta quella del 99enne Henry Kissinger che, in un editoriale pubblicato sul Wall Street Journal insieme a Eric Schmidt e Daniel Huttenlocher, ha sentito il bisogno di avvisare il mondo del pericolo rappresentato dall’intelligenza artificiale.
«Le intelligenze artificiali pongono sfide pratiche e filosofiche che l’umanità non affronta dai tempi del Rinascimento», scrive l’ex Segretario di Stato che continua: «Se vogliamo navigare con successo in questa trasformazione, sarà necessario sviluppare nuovi concetti di pensiero umano e interazione con le macchine. Questa è la sfida essenziale dell’era dell’intelligenza artificiale».
Nel lungo e denso articolo, Kissinger si avventura in paragoni tra l’arrivo dell’intelligenza artificiale e la diffusione di altre tecnologie che hanno cambiato il modo in cui gli umani esperiscono il mondo dentro e attorno a loro (uno su tutti: la stampa a caratteri mobili di Gutenberg).
Sono numerosi i pericoli concreti dell’IA, a partire da quelli pratici:
«Dobbiamo includere un avvertimento a questa previsione: cosa succede se questa tecnologia non può essere completamente controllata? E se ci fossero sempre modi per generare falsità, immagini false e video falsi, e le persone non imparerebbero mai a non credere a ciò che vedono e sentono? Agli esseri umani viene insegnato fin dalla nascita a credere a ciò che vediamo e sentiamo, e questo potrebbe non essere più vero a causa dell’IA generativa».
Preoccupazioni di carattere mistico-apocalittico
Kissinger non esamina solo questi possibili problemi sull’utilizzo della IA ma dedica spazio anche a preoccupazioni di carattere mistico-apocalittico. Dobbiamo iniziare a preoccuparci, ammonisce Kissinger, di possibili sette tecno-reazionarie che potrebbero cominciare ad adorare le IA come divinità pagane e far regredire il mondo ai tempi delle guerre di religione:
«L’arrivo di uno strumento inconoscibile e apparentemente onnisciente, capace di alterare la realtà, può innescare una rinascita della religiosità mistica. Il potenziale dell’obbedienza di gruppo a un’autorità il cui ragionamento è in gran parte inaccessibile ai suoi sudditi è stato visto di tanto in tanto nella storia dell’uomo, forse in modo più drammatico e recente nella sottomissione del XX secolo di intere masse dell’umanità sotto lo slogan delle ideologie su entrambi i lati dello spettro politico. Potrebbe emergere un terzo modo di conoscere il mondo, che non è né la ragione umana né la fede. Cosa diventa la democrazia in un mondo simile?».
Una minaccia per la democrazia?
A parte queste derive, Kissinger intravvede anche il rischio per la tenuta delle democrazie:
«Senza principi guida, l’umanità corre il rischio del dominio o dell’anarchia, dell’autorità illimitata o della libertà nichilista. La necessità di mettere in relazione i grandi cambiamenti della società con giustificazioni etiche e nuove visioni per il futuro apparirà in una nuova forma. Se le massime espresse da ChatGPT non vengono tradotte in uno sforzo umanamente riconoscibile, l’alienazione della società e persino la rivoluzione potrebbero diventare probabili.
Senza adeguate basi morali e intellettuali, le macchine utilizzate nella governance potrebbero controllare piuttosto che amplificare la nostra umanità e intrappolarci per sempre. In un mondo del genere, l’intelligenza artificiale potrebbe amplificare la libertà umana e trascendere le sfide illimitate».
Dobbiamo iniziare a preoccuparci, intima Kissinger, di come l’uso e l’abuso delle intelligenze artificiali potrebbero cambiare la natura umana nella sua essenza e trasformarci in una specie nuova, un inquietante ibrido biotecnologico.
Una frecciata a coloro che come Elon Musk, pensano di arginare il pericolo dell’intelligenza artificiale, ibridando l’uomo con le macchine?
Che fare?
Come fare a salvare il mondo da se stesso, come possiamo evitare di consegnare la Terra alle macchine? Nemmeno Kissinger, conosce la risposta. Però ha già pensato a un nome per la prossima fase dell’evoluzione umana: Homo technicus.
«Quando diventiamo Homo technicus, abbiamo l’imperativo di definire lo scopo della nostra specie. Sta a noi fornire le vere risposte».
Prima che la trasformazione dell’essere umano si realizzi, scrive l’ex Segretario di Stato, dobbiamo rispondere alla domanda che definisce quest’epoca più di tutte le altre: qual è lo scopo della nostra specie? Una domanda a cui l’editoriale non risponde, suggerendo però di adottare il prima possibile dei parametri per un uso responsabile dell’IA, prima che sia troppo tardi:
«La fiducia nell’intelligenza artificiale richiede miglioramenti su più livelli di affidabilità: nell’accuratezza e nella sicurezza della macchina, nell’allineamento degli obiettivi dell’IA con gli obiettivi umani e nella responsabilità degli esseri umani che governano la macchina. Ma anche se i sistemi di intelligenza artificiale diventano tecnicamente più affidabili, gli esseri umani dovranno comunque trovare modi nuovi, semplici e accessibili per comprendere e, in modo critico, sfidare le strutture, i processi e i risultati dei sistemi di intelligenza artificiale.
È necessario stabilire parametri per un uso responsabile dell’IA, con variazioni basate sul tipo di tecnologia e sul contesto di implementazione. I modelli linguistici come ChatGPT richiedono limiti alle sue conclusioni. ChatGPT ha bisogno di sapere e trasmettere ciò che non sa e non può trasmettere».
