Deloitte rimborsa parte del pagamento al governo australiano dopo un report con errori generati dall’AI. È il primo caso in cui l’uso improprio dell’AI porta a un rimborso da parte di una Big Four.
Deloitte rimborserà parte del compenso ricevuto dal governo australiano per un report ufficiale che conteneva numerosi errori , dalle citazioni ai diversi riferimenti. Il colosso della consulenza ha ammesso che il documento era stato redatto, in parte, con l’aiuto dell’intelligenza artificiale (AI).
L’accadito, reso pubblico questa settimana, rappresenta uno dei primi casi in cui l’uso improprio dell’AI in un contesto istituzionale porta a un rimborso formale da parte di una delle cosiddette Big Four della consulenza - Deloitte, PwC, KPMG ed EY, come sottolinea il Financial Times.
Un report da 439.000 dollari australiani fatto con l’AI
Il Dipartimento australiano per l’Occupazione e le Relazioni sul Lavoro aveva commissionato a Deloitte, nel dicembre 2024, una revisione “indipendente” del sistema di welfare nazionale. L’obiettivo era analizzare i meccanismi che penalizzano automaticamente i disoccupati all’interno dei programmi di assistenza.
Il valore dell’incarico era di 439.000 dollari australiani (circa 247.000 euro). Il documento era stato pubblicato all’inizio del 2025, ma una versione corretta è apparsa sul sito del governo soltanto lo scorso venerdì, dopo settimane di verifiche.
Citazioni inventate e riferimenti sbagliati
Il caso è esploso ad agosto, quando l’Australian Financial Review ha segnalato la presenza di numerose imprecisioni. Tra queste, riferimenti a studi e docenti universitari mai esistiti.
Le correzioni, secondo il governo, non alterano il contenuto né le raccomandazioni della revisione, ma l’episodio ha comunque costretto Deloitte a rinunciare all’ultima tranche del pagamento e a pubblicare una rettifica ufficiale.
In una dichiarazione, la società ha precisato che la questione “è stata risolta direttamente con il cliente”.
L’intelligenza artificiale dietro gli errori segnalati
Nella nuova versione del rapporto, Deloitte riconosce di aver utilizzato una catena di strumenti basata su un modello linguistico di AI generativa (Azure OpenAI GPT-4o), fornito su licenza dal dipartimento stesso. La società non ha confermato che l’AI sia stata la causa diretta degli errori, ma ha ammesso che le modifiche riguardano citazioni, riferimenti e un riassunto di procedimenti legali.
“Le correzioni non incidono sul contenuto sostanziale del rapporto”,
si legge nella nota aggiornata.
Un campanello d’allarme per le grandi società di consulenza
L’episodio evidenzia i rischi legati all’uso non controllato dell’intelligenza artificiale nel lavoro di consulenza e revisione, dove la precisione delle fonti è cruciale.
Negli ultimi anni, le Big Four - insieme ad altre società come McKinsey - hanno investito miliardi di dollari nello sviluppo di sistemi basati su AI per velocizzare analisi e audit. Tuttavia, la corsa all’automazione sta sollevando dubbi crescenti sulla qualità e l’affidabilità dei risultati.
Già a giugno, l’autorità britannica di vigilanza contabile aveva avvertito che le grandi società non stanno monitorando adeguatamente il modo in cui gli strumenti automatizzati influenzano la qualità delle revisioni, nonostante il loro impiego sempre più esteso nelle valutazioni dei rischi e nella raccolta dei dati.
Una lezione per il futuro dell’AI aziendale
Il caso Deloitte, pur concluso senza conseguenze legali, rischia di diventare un precedente per l’intero settore.
Se è vero che l’intelligenza artificiale promette di rivoluzionare la consulenza e la contabilità, la supervisione umana rimane essenziale per garantire accuratezza, trasparenza e responsabilità.
In Australia, il governo ha fatto sapere che il contratto sarà reso pubblico una volta completata la procedura di rimborso.
© RIPRODUZIONE RISERVATA
