Per capire perché sempre più spesso si sente parlare dei pericoli legati allo sviluppo dell’intelligenza artificiale, evocando persino uno “scenario alla Terminator” e per comprendere meglio cosa ha spinto Elon Musk e il migliaio di suoi colleghi a firmare la lettera pubblicata su Future of Life – in cui si chiedono sei mesi di sospensione alle società e aziende che lavorano allo sviluppo dell’IA – è bene fare un passo indietro e approfondire il concetto futurista di “singolarità tecnologica”, che indica il momento in cui la tecnologia acquisisce una capacità intellettiva pari o superiore a quella dell’uomo.
In principio fu la fantascienza
Come spesso accade, la nozione è stata anticipata dalla fantascienza (su tutti, negli anni Cinquanta, Fredric Brown con il racconto breve, La risposta e Isaac Asimov con L’ultima domanda) per poi insinuarsi nella mente degli scienziati che l’hanno affrontata da punti diversi, giungendo anche a conclusioni radicalmente opposte, seguendo sostanzialmente due approcci opposti: integrato o apocalittico.
Fu Irving John Good, matematico e crittografo britannico che lavorò nel gruppo di Bletchley Park con Alan Turing, a interrogarsi nel 1965 sulle conseguenze dell’avvento di una una super intelligenza non umana: «La prima macchina ultra intelligente sarà l’ultima invenzione che l’uomo avrà la necessità di fare».
Good teorizzava, infatti, che, una volta inventata una macchina che sarebbe stata capace di progettare dispositivi sempre migliori, avrebbe causato una vera e propria “esplosione di intelligenza”, lasciando l’uomo indietro.
Vernor Vinge
La minaccia rappresentata da una super-intelligenza artificiale innescata dagli esseri umani viene formalizzata nei primi anni Novanta, con l’introduzione del concetto di singolarità tecnologica a opera del matematico e romanziere americano, Vernor Vinge, che nel 1993 creò l’espressione prendendo a prestito il termine “singolarità” dalla fisica (e non dalla matematica, come erroneamente si pensa).
Vinge aveva cominciato a parlare della singolarità negli anni Ottanta, ma raccolse i suoi pensieri nel primo articolo sull’argomento nel 1993, con il paper Technological Singularity. Nel saggio, Vinge definiva la singolarità come «un punto in cui i nostri vecchi modelli dovranno essere scartati e una nuova realtà governerà».
Vinge ammetteva di non sapere se la singolarità tecnologica fosse possibile, ma che se lo fosse, certamente finirà per verificarsi. Il matematico si mostrava inoltre preoccupato per questa possibilità e nel suo saggio scriveva: «Entro trenta anni, avremo i mezzi tecnologici per creare un’intelligenza sovrumana. Poco dopo, l’era degli esseri umani finirà».
Vinge immaginava, inoltre, che gli umani non sarebbero stati eliminati dalla singolarità ma “trasformati” in una forma di intelligenza superiore: «Nel momento in cui gli esseri umani costruiranno una macchina che sarà in grado di diventare più intelligente inizierà una nuova era, che dovrà essere analizzata secondo nuovi schemi, e che non sarà possibile qualificare a priori come bene o male, ma semplicemente come diversa».
La singolarità secondo Kurzweil
Fu però Ray Kurzweil, direttore del reparto ingegneria di Google, famoso futurologo e autore di libri come La singolarità è vicina, a definire meglio il concetto. Nel suo libro, il fenomeno viene definito come «quel punto futuro in cui gli avanzamenti tecnologici cominceranno ad avvenire con tale rapidità, che i normali esseri umani non riusciranno a tenerne il passo, e saranno tagliati fuori dal ciclo».
Per Kurzweil, in breve, la singolarità ha inizio quando vengono alla luce le “intelligenze artificiali auto-miglioranti”, ossia computer dotati degli strumenti adeguati per incrementare autonomamente le proprie prestazioni.
Questo processo, secondo Kurzweil, è più vicino di quanto pensiamo: «Entro il 2047 la cosiddetta singolarità tecnologica diverrà una realtà» ha dichiarato pubblicamente nel 2017 alla Sxsw conference di Austin, in Texas.
Tale previsione si basa su quella che Kurzweil chiama the law of accelerating returns, ovvero uno schema, ispirato alla Legge di Moore che implica ogni progresso diventa la base per un nuovo sviluppo futuro, che allargherà a sua volta in modo esponenziale il proprio raggio d’azione.
Verso l’ibridazione uomo-macchina
Alla domanda se questo scenario possa risultare una minaccia o meno per l’umanità, Kurzweil ha risposto che l’idea di una intelligenza artificiale capace di schiavizzare l’uomo è pura invenzione: «Ciò che già sta accadendo è che le macchine ci stanno potenziando. Ci stanno rendendo più intelligenti». Secondo lo studioso, infatti, in futuro saremo capaci di unire le neocortecce cerebrali, connettendo le funzioni di apprendimento, linguaggio e memoria. E qua si apre il campo dell’ibridazione uomo-macchina,
Per Kurzweil, parlare di singolarità vuol dire, infatti, parlare di evoluzione. L’essere umano del futuro potrebbe essere non più semplicemente umano ma un vero e proprio ibrido.
Kurzweil propone persino la graduale introduzione di sistemi biologici nei corpi e nei cervelli umani arrivando a ipotizzare di poter scaricare informazioni e ricordi su un supporto non biologico da poter utilizzare come banca dati, facendo cioè un backup della nostra mente (aprendo la strada al mind uploading).
A chi critica queste velleità, Kurzweil fa notare che non ci sarebbe nulla di diverso dagli impianti cocleari per i sordi o degli impianti neurali per i malati di Parkinson, mostrando che per i transumanisti non c’è un limite al progresso illimitato né barriera alcuna alla tecnologia, in quanto l’uomo viene inteso come una “macchina spirituale”.
Kurzweil arriva pertanto ad auspicare, come anticipato, il processo di ibridazione uomo-macchina: «La distinzione tra essere umano e macchina si offuscherà fino a che la differenza svanirà. Questo processo è già in corso, anche se la maggior parte delle macchine che costituiscono nostre estensioni non sono ancora all’interno dei nostri corpi e dei nostri cervelli».
Secondo questo approccio, nei prossimi anni, il pensiero non biologico potrebbe diventare predominante rispetto a quello biologico: «Gradualmente, stiamo fondendo e potenziando noi stessi. Dal mio punto di vista, è nella natura stessa degli esseri umani, noi trascendiamo i nostri limiti».
L’approccio neoluddista: Ted Kaczynski
Se c’è chi addirittura vorrebbe favorire la singolarità, intesa come un’occasione per promuovere l’avvento del futuro (pensiamo per esempio all’accelerazionismo), sono sempre più numerosi gli scienziati, intellettuali, filosofi e imprenditori che ammettono di essere preoccupati per la singolarità.
Il più famoso e radicale, neoluddista convinto, che sostiene che l’avvento della singolarità è una minaccia da estirpare alla radice è il matematico, ex accademico e terrorista Ted Kaczynski, noto come Unabomber. Nel suo manifesto Industrial society and its future spiega che l’IA avrebbe potuto dare il potere alle classi dirigenti delle società moderne di «sterminare la gran parte dell’umanità».
Scrive Kaczynski: «Nel momento in cui la società e i problemi da affrontare diventassero sempre più complessi, e le macchine sempre più intelligenti, la gente permetterà sempre più a queste ultime di prendere decisioni al suo posto semplicemente perché le decisioni prese dalle macchine porterebbero a migliori risultati rispetto a quelle prese dagli uomini. Alla fine potrebbe essere raggiunta una fase in cui le decisioni necessarie per far sì che il sistema continui saranno così complesse che gli esseri umani saranno incapaci di prenderle intelligentemente. In questa fase le macchine avranno il controllo effettivo. La gente non sarà capace nemmeno di spegnere le macchine perché saranno cosi dipendenti da esse che spegnerle equivarrebbe al suicidio».
Nick Bostrom: super intelligenza artificiale
Recentemente, il dibattito sui rischi dell’IA e la singolarità sono tornati di moda e stanno monopolizzando il dibattito pubblico.
Anche il filosofo transumanista Nick Bostrom ha rivisto alcune sue posizioni e recentemente è divenuto consapevole dei rischi che l’intelligenza artificiale può causare. Bostrom ha infatti chiarito come potrebbe “cambiare” la società con l’avvento della super intelligenza artificiale: «Quando arriverà la Super Intelligenza anche il nostro destino potrebbe dipenderne […] L’IA [Intelligenza Artificiale] è l’ultima invenzione che l’umanità dovrà mai creare. Le macchine saranno inventori migliori di noi e agiranno in tempi “digitali”».
Pertanto, il problema della super intelligenza artificiale, come ammesso dallo stesso Bostrom, è che la macchina una volta superato il test di Turing, potrebbe continuare a crescere in intelligenza; perciò, sarebbe intelligente come noi solo per un breve periodo; ci supererebbe presto continuando a elaborare da sé il proprio sviluppo (gli algoritmi si adegueranno e modificheranno apprendendo come fa un bambino). In certe condizioni, potrebbe arrivare a programmarsi da sola, accelerando ulteriormente la propria intelligenza. Da quel punto in poi saranno quindi le macchine a inventare e “creare” ogni cosa, ribaltando la situazione di partenza.
L’apocalisse robot, secondo Elon Musk
La singolarità è una ossessione di lunga data anche per Elon Musk, che sa però abilmente promuovere il business al suo timore per il futuro dell’umanità.
Ossessionato dall’idea di una possibile “apocalisse robot”, il Ceo di Tesla punta sul potenziamento umano (da qua Neuralink), l’unico modo, a suo dire, per prevenire e respingere i rischi della IA e dall’altra a garantire una forma di immortalità digitale.
L’idea di Musk è che se non si può sconfiggere la IA, ci si può fondere con essa. Tornando così, all’ibridazione uomo-macchina agognata da Kurzweil: un sogno (o meglio, un incubo) che ha ossessionato numerosi scrittori di fantascienza e che oggi sembra sempre più vicino.
