La tecnologia è sempre stata considerata una spada a doppio taglio. Da un lato, ci offre innumerevoli opportunità e facilità di accesso alle informazioni; dall’altro, può portare a conseguenze inaspettate e impreviste. Vi avevamo parlato del caso dell’avvocato Steven Schwartz che, preso forse anche un po’ dalla pigrizia, ha usato ChatGPT per argomentare un ricorso al tribunale di Manhattan, citando una marea di precedenti tutti inventati di sana pianta.
La vicenda evidenzia come l’intelligenza artificiale non solo prenda sonore cantonate, le cosiddette «allucinazioni», ma non sia ancora pronta per lavorare in completa autonomia, avendo bisogno della supervisione dell’uomo per funzionare correttamente. Questi sistemi, infatti, non hanno un modo affidabile per distinguere tra verità e finzione, e spesso inventano dettagli e dati solo per soddisfare una richiesta.
Il caso di Mark Walters
Un nuovo recente caso, che dimostra il lato oscuro della tecnologia, coinvolge OpenAI, l’azienda di intelligenza artificiale, che è stata citata in giudizio per diffamazione da un conduttore radiofonico della Georgia, Mark Walters, a seguito di false informazioni generate da ChatGPT, la famosa chatbot sviluppata proprio da OpenAI.
Il caso in questione è stato depositato presso la Corte Superiore della Georgia, nella Contea di Gwinnett, il 5 giugno.
Walters chiede un risarcimento monetario non specificato all’azienda californiana.
La causa intentata da Walters potrebbe rappresentare un importante precedente nel futuro sviluppo delle intelligenze artificiali.
Il resoconto falso generato da ChatGPT
Secondo i documenti legali, il giornalista Fred Riehl ha chiesto a ChatGPT di fornire un riassunto di un caso giudiziario reale, collegandosi a un documento PDF online. Tuttavia, anziché fornire un riassunto accurato, ChatGPT ha generato un resoconto falso, dettagliato e convincente, ma errato sotto molti aspetti.
Il riassunto conteneva alcune informazioni corrette, ma includeva anche false accuse contro Walters. Si affermava che Walters avrebbe sottratto fondi a un’organizzazione no-profit per i diritti delle armi chiamata Second Amendment Foundation “per oltre 5.000.000 di dollari”. Walters non è mai stato accusato di questo e il fondatore e presidente della SAF ha confermato che tutto ciò era frutto dell’immaginazione di ChatGPT.
I lati ancora oscuri della vicenda
Tuttavia, ci sono due aspetti strani in questa vicenda che sollevano delle domande.
In primo luogo, il giornalista Fred Riehl non ha mai pubblicato la risposta di ChatGPT online, il che rende poco chiaro chi abbia informato Walters riguardo alle informazioni inventate.
In secondo luogo, la chatbot non ha la capacità di accedere a fonti esterne né di aprire file PDF o altri documenti. Pertanto, la provenienza di tali informazioni false rimane un mistero.
OpenAI e il problema delle allucinazioni
OpenAI ha recentemente annunciato una possibile soluzione a questo problema, ma resta da vedere se questa nuova soluzione riuscirà a sradicare completamente le allucinazioni di ChatGPT.
Nel frattempo, episodi come quello di Mark Walters e Steven Schwartz servono da monito su quanto sia importante esercitare cautela nell’affidarsi ciecamente alla tecnologia, specialmente quando si tratta di fonti di informazione che potrebbero non essere sempre affidabili.
