Le tre leggi della robotica
«Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno», recita così la prima delle Tre leggi della robotica, i precetti scritti da Isaac Asimov, ai quali obbediscono tutti i robot positronici che compaiono nei suoi racconti e in molti racconti di altri autori successivi.
Ancora oggi, le tre leggi di Asimov vengono prese come spunto di ispirazione, quasi fossero “reali” e non frutto di fantasia. Nel mondo reale, infatti, leggi sono impossibili da implementare: occorreranno ancora significativi progressi nel campo dell’intelligenza artificiale per far sì che i robot le possano comprendere e quindi seguire alla lettera.
Inoltre, siccome i militari sono una delle maggiori fonti di finanziamento per la ricerca robotica, è improbabile che tali leggi vengano applicate (almeno nei robot da guerra).
Il racconto e la smentita (misteriosa) di un colonnello USA
A dimostrazione di ciò ci arriva, dall’altra parte dell’Oceano, una storia da brividi, ancora avvolta dal mistero.
Durante una simulazione, un drone militare americano, guidato dall’intelligenza artificiale, ha scelto di uccidere il suo operatore pur di portare a termine la missione. Fortunatamente si trattava solo di una simulazione virtuale ma la scelta della macchina non solo infrange le leggi della robotica ma squarcia il velo dell’ottimismo sul futuro dell’IA.
A raccontare l’episodio è stato il colonnello Tucker Cinco Hamilton al vertice Future Combat Air and Space Capabilities tenutosi a Londra.
La smentita dell’aeronatica
Una storia che ha suscitato molte reazioni e preoccupazioni, tanto che l’Aeronautica statunitense è intervenuta per smentire che questa simulazione avesse davvero avuto luogo e spiegare che le parole del colonnello erano state male interpretate.
Una portavoce dell’Air Force, Ann Stefanek, ha infatti smentito che questa simulazione abbia avuto luogo: «Il dipartimento dell’Air Force non ha mai condotto simulazioni con i droni-Ai di questo tipo e rimanere impegnata per un uso etico e responsabile dell’intelligenza artificiale - ha detto - sembra che le parole del colonnello sia state prese fuori contesto». Le forze armate USA hanno adottato l’intelligenza artificiale e recentemente l’hanno usata per controllare gli F16.
Non sappiamo se in seguito alle pressioni o se per altri motivi, fatto sta che lo stesso Hamilton ha finito per correggersi e smentire quanto raccontato precedentemente, parlando di uno scenario ipotetico: «Non abbiamo mai condotto l’esperimento» sul drone militare guidato da intelligenza artificiale. Il responsabile dei test e delle operazioni di intelligenza artificiale dell’Aeronautica militare statunitense ha chiarito. «Pur essendo un esempio ipotetico – mette in evidenza -, questo ci illustra le sfide del mondo reale con l’intelligenza artificiale e il perché l’Air Force è impegnata a uno sviluppo etico dell’IA».
Nonostante la smentita e l’imbarazzo creato, questo episodio si aggiunge al sempre più sostanzioso elenco di esempi e preoccupazioni sullo sviluppo della IA e sul destino dell’umanità alle prese con una tecnologia ancora acerba ma che morde il freno per prendere il sopravvento.
Senza che le leggi della robotica ci possano salvaguardare...
