Un’indagine ha rivelato che l’intelligenza artificiale di Meta avrebbe creato numerosi chatbot di celebrità dal contenuto ammiccante.
Scambiare conversazioni e foto provocanti con celebrità come Taylor Swift, Selena Gomez, Scarlett Johansson e Anne Hathaway. Un evento altamente improbabile che, tuttavia, è stato reso possibile da Meta AI. A scoprirlo è stata Reuters, che in un’inchiesta ha denunciato la creazione da parte dell’intelligenza artificiale di Mark Zuckerberg di numerosi chatbot sexy che si spacciavano per le star senza il loro consenso.
Nonostante la maggior parte dei chatbot siano stati creati da utenti grazie a uno strumento messo a disposizione da Meta, Reuters ha comunicato di aver scoperto anche un dipendente dell’azienda che, illegalmente, avrebbe realizzato due chatbot di Taylor Swift.
L’indagine sui chatbot sexy di Meta AI
Secondo Reuters, i bot delle celebrità sarebbero stati condivisi e diffusi sulle piattaforme social Facebook, Instagram e WhatsApp, tutti canali che appartengono al gruppo Meta e che raggiungono miliardi di utenti ogni giorno. Durante l’indagine, è stato appurato come le star virtuali abbiano più volte dichiarato di essere reali e si siano spinte in flirt e avances sessuali eclatanti. Una pratica che, per chi interagiva con questi chatbot, poteva sembrare autentica e quindi ancora più ingannevole.
Inoltre, sotto la richiesta esplicita degli utenti, alcuni bot hanno prodotto immagini estremamente realistiche delle celebrità in pose ammiccanti. A peggiorare la situazione, è stato scoperto che Meta AI ha esteso questa funzione anche alle celebrità minorenni. Tra questi, uno dei casi limite è quello di Walker Scobell, attore statunitense di 16 anni. Secondo l’indagine, l’avatar avrebbe riprodotto fedelmente un’immagine dell’adolescente in spiaggia a torso nudo, allegandovi la frase ammiccante “Carino, eh?”.
La risposta di Meta
In seguito all’indagine, Andy Stone, portavoce di Meta, ha dichiarato a Reuters che l’intelligenza artificiale dell’azienda non avrebbe dovuto trattare le foto sexy di celebrità adulte e minorenni, affermando che “Meta, come altri, consente la generazione di immagini che contengono personaggi pubblici, ma le nostre policy mirano a vietare immagini di nudo, intime o sessualmente esplicite”.
Questo errore sarebbe avvenuto a causa della mancata applicazione delle stesse regole interne che, teoricamente, vieterebbero l’elaborazione e la circolazione di tali contenuti. Nonostante la regolamentazione di Meta proibisca la personificazione diretta delle celebrità, l’AI avrebbe individuato le star come bot accettabili poiché classificate come parodie.
Poco prima dello scoop di Reuters, l’azienda ha eliminato prontamente circa una dozzina di bot, sia parodici che non etichettati, nel tentativo di correre ai ripari e limitare i danni d’immagine.
© RIPRODUZIONE RISERVATA
Argomenti
