Una dichiarazione del Dipartimento per la Sicurezza Interna USA ha rivelato l’uso di strumenti basati su GPT-4 da parte dell’ICE, ma OpenAI prende le distanze. Ecco cosa ha detto Sam Altman.
Il rapporto tra intelligenza artificiale e apparati governativi statunitensi torna al centro del dibattito, questa volta coinvolgendo direttamente OpenAI e il suo CEO, Sam Altman.
A innescare la discussione è una recente divulgazione del Dipartimento per la Sicurezza Interna degli Stati Uniti (DHS), che ha reso pubblico un database sull’utilizzo di strumenti di AI da parte dell’Immigration and Customs Enforcement (ICE). Una rivelazione che arriva in un momento politicamente sensibile per l’agenzia federale, già sotto pressione dopo il controverso intervento armato avvenuto a Minneapolis nelle scorse settimane.
Secondo quanto emerge dai documenti, l’ICE farebbe ricorso a un software di selezione del personale che utilizza un modello GPT-4 di OpenAI. Il sistema, commercializzato da una società terza chiamata AIS, supporta la valutazione dei curricula confrontandoli con i requisiti delle posizioni aperte e attribuendo punteggi in base alla corrispondenza dell’esperienza professionale.
Non si tratta quindi di un prodotto sviluppato o venduto direttamente da OpenAI all’agenzia, ma di uno strumento che integra tecnologie AI disponibili sul mercato.
leggi anche
Silicon Valley in rivolta? Ecco quali leader tech si sono ribellati a Trump dopo il caso ICE
La presa di posizione di Sam Altman
Pochi giorni prima della pubblicazione del database del DHS, Sam Altman aveva espresso una posizione molto critica nei confronti dell’operato dell’ICE. In un messaggio interno rivolto ai dipendenti di OpenAI, il CEO ha parlato apertamente di un superamento dei limiti da parte dell’agenzia, sottolineando la necessità di distinguere tra la deportazione di criminali violenti e pratiche che, a suo giudizio, vanno oltre quel perimetro.
“Amo gli Stati Uniti e i suoi valori di democrazia e libertà e sosterrò il Paese in ogni modo possibile; lo farà anche OpenAI. Ma amare il Paese significa anche avere il dovere americano di contrastare gli eccessi. Quello che sta succedendo con l’ICE sta andando troppo oltre. C’è una grande differenza tra l’espulsione di criminali violenti e quello che sta succedendo ora, e dobbiamo fare la distinzione giusta.”
Il ruolo di Palantir e i chiarimenti di OpenAI
Il database del DHS non cita solo OpenAI, al contrario mette in luce un legame particolarmente stretto tra l’ICE e Palantir, la società di analisi dei dati guidata da Alex Karp. Secondo le informazioni diffuse, l’agenzia utilizza strumenti di Palantir per estrarre indirizzi e informazioni rilevanti per le attività di “Enforcement and Removal Operations”. I documenti non specificano quali modelli vengano impiegati, ma parlano genericamente di “large language models commercialmente disponibili”.
Palantir fornisce inoltre sistemi di “AI-Enhanced ICE Tip Processing”, utilizzati per analizzare, classificare e tradurre in inglese le segnalazioni ricevute, soprattutto nei casi considerati urgenti.
Dal canto suo, OpenAI ha cercato di chiarire la propria posizione. Un portavoce dell’azienda ha negato l’esistenza di contratti commerciali diretti con il DHS, precisando che l’eventuale utilizzo di tecnologie OpenAI da parte dell’agenzia potrebbe avvenire attraverso strumenti accessibili pubblicamente, come ChatGPT o chiamate API, allo stesso modo in cui li utilizzano molte aziende private.
La vicenda riapre dunque una questione centrale nel dibattito sull’intelligenza artificiale: fino a che punto i fornitori di tecnologia sono responsabili degli usi che terzi fanno dei loro modelli?
© RIPRODUZIONE RISERVATA
