L’avvocato Steven Schwartz, dello studio legale Levidow, Levidow e Oberman, trent’anni di onorata carriera alle spalle, pensava di aver trovato in ChatGPT un efficace aiuto per la stesura di un documento legale a difesa del cliente Roberto Mata.
Il suo assistito, infatti, ha citato in giudizio la compagnia aerea colombiana Avianca per essere stato ferito al ginocchio da un carrello di servizio durante un volo di linea 670 in un viaggio da El Salvador a New York.
Grazie alla chatbot, il legale aveva potuto abbattere i tempi di lavoro e ottenere quelle che credeva fossero preziose informazioni, in poco tempo. ChatGPT sembrava proprio un valido alleato.
Alla compagnia, che aveva chiesto l’archiviazione contestando anche la scadenza dei termini (il caso è del 2019), l’avvocato ha replicato con una marea di precedenti – come “Varghese v. China Southern Airlines”, “Martinez v. Delta Airlines” e “Miller v. United Airlines” – nei quali le corti hanno dato ragione ai passeggeri.
Peccato, però, che i casi citati fossero tutti inventati. L’IA non ha avuto soltanto le consuete “allucinazioni” ma si è proprio inventata di sana pianta precedenti totalmente fasulli.
Non avendo trovato riscontro dei precedenti riportati da Schwartz, il giudice Kevin Castel ha chiesto al legale di mostrargli gli estremi dei casi. L’avvocato, che si era ciecamente affidato a ChatGPT per istruire il caso (sotto giuramento ha specificato di aver chiesto alla chatbot se i casi fossero veritieri e che non stesse mentendo), ha interrogato di nuovo l’intelligenza artificiale che gli ha fornito le date dei procedimenti, ha indicato i tribunali che si sono pronunciati, ha fornito perfino il numero delle sentenze. La chatbot ha anzi sostenuto che i casi erano tutti reali, tanto da essere presenti in “database legali affidabili” come Westlaw e LexisNexis.
Anche in questo caso, però, il giudice non è riuscito a trovare i precedenti citati. Davanti alla richiesta di esibire il testo integrale degli atti citati, ChatGPT ha ammesso di aver inventato tutto. Insomma, nessun evento riportato nel fascicolo è mai avvenuto, la chatbot si è inventata tutto, fino all’ultimo dettaglio. Compresi tribunale e nomi dei giudici che hanno emesso le sentenze, i numeri di registro e le date.
Come scrive il New York Times, «ChatGPT genera risposte realistiche indovinando quali frammenti di testo che dovrebbero seguire altre sequenze, sulla base di un modello statistico che ha assorbito miliardi di esempi di testo estratti da tutta Internet. Nel caso del signor Mata, il programma sembra aver individuato la struttura labirintica di un’argomentazione legale scritta, ma l’ha popolata di nomi e fatti tratti da una bouillabaisse di casi esistenti».
A quel punto il legale ha dovuto ammettere di essersi affidato totalmente a ChatGPT e di non averlo mai usato prima.
La vicenda evidenzia come l’intelligenza artificiale non solo prenda sonore cantonate, ma non sia ancora pronta per lavorare in completa autonomia, avendo bisogno della supervisione dell’uomo per funzionare correttamente.
Forse, è ancora lontano il momento in cui l’IA ruberà il posto a giudici e avvocati.
E speriamo, agli umani in generale.
E questa è sicuramente una buona notizia.
