Google ha annunciato la chiusura ufficiale di uno dei suoi servizi di AI. Il motivo? Sono state riscontrate troppe allucinazioni durante l’utilizzo.
La suite di strumenti di Google basati sull’intelligenza artificiale è ormai molto ampia e variegata. Oltre al popolare chatbot Gemini, infatti, esistono tool per la creazione di contenuti multimediali, per la ricerca di informazioni, per la gestione di fogli di calcolo e molto altro. Dalle parti di Mountain View si continua a lavorare duramente in questo settore, con l’obiettivo di diventare l’azienda di riferimento.
Così come ci sono tanti nuovi strumenti di AI che sono in fase di test e che promettono bene, ce ne sono altri che stanno deludendo le aspettative e che sono rapidamente finiti in sordina. Uno in particolare, non tanto per le sue funzionalità quanto per le allucinazioni riscontrate in questi primi mesi di attività. Gli errori sono talmente tanti che Big G ha preso una decisione drastica: lo chiuderà per sempre.
Google Gemini chiude il servizio Gemma
Gemma di Google è uno strumento di intelligenza artificiale lanciato lo scorso anno e inizialmente progettato per gli sviluppatori. Direttamente integrato in AI Studio, ha saputo rapidamente raggiungere un pubblico più ampio per via delle sue funzionalità. Dopo qualche mese, sono emersi i primi problemi: le allucinazioni erano troppe.
Gemma non è infatti stato progettato per il fact-checking, portando dunque alla diffusione di informazioni false e fuorvianti. Un caso emblematico è stato quello della senatrice americana Marsha Blackburn, accusata con dichiarazioni diffamatorie e false. La protagonista della vicenda ha contattato il CEO di Google Sundar Pichai che, dopo alcune verifiche, ha confermato la chiusura di Gemma.
Una scelta fatta per evitare ulteriori scandali, visto il polverone che si è alzato negli Stati Uniti. Da questo momento in poi, Gemma sarà accessibile solo agli sviluppatori di applicazioni tramite un’API, mentre per gli utenti finali non c’è più modo di interagire con questo tipo di tecnologia.
La fine di Gemma AI
Si chiude l’era Gemma di Google, a distanza di circa un anno dalla sua nascita. O meglio, non sarà più disponibile per gli utenti comuni. Va detto che, sin dalla sua fase di progettazione iniziale, questo strumento di AI non era stato pensato per il grande pubblico, ma principalmente per la ricerca e lo sviluppo di prodotti.
Permettere al modello di rispondere alle domande degli utenti non era comunque esente da rischi, tenendo conto del fatto che il fact-checking non è mai stato una delle sue funzionalità principali. Molto probabilmente Google già sapeva che si sarebbero riscontrate allucinazioni, ma forse non così gravi come quanto accaduto con la senatrice USA.
Ora sarà compito di Google verificare con esattezza il funzionamento dei suoi altri strumenti e di migliorare il fact-checking per i tool che già dispongono dello strumento, di modo da evitare altri problemi che potrebbero gettare nuove ombre sul comparto AI di Mountain View.
© RIPRODUZIONE RISERVATA
