La scure dei licenziamenti si è abbattuta sull’intero team «Etica e Società» di Microsoft, come parte dei più ampi tagli che hanno liquidato dal gruppo, a livello globale, 10.000 lavoratori nell’ultimo periodo.
Su che cosa lavorava il team
Il team aveva raggiunto il suo massimo nel 2020, quando contava circa 30 dipendenti tra ingegneri, designer e filosofi. A ottobre, era già stato ridotto a circa sette persone nell’ambito di una riorganizzazione. Già sul finire del 2022 il team di etica e società era stato ridotto, per arrivare a contare solo sette persone dalle 30 presenti fino al 2020.
La recente ristrutturazione della squadra indica una scelta strategica ben specifica: liquidare gli esperti che dovrebbero assicurarsi che le IA non diano vita a un futuro distopico, significa smettere di anteporre l’etica e il principio di precauzione. Per snellire le pratiche burocratiche e garantire efficienza, si stanno infatti sacrificando le tematiche etiche. Mettendo così a repentaglio la collettività.
Stando alle testimonianze degli insider, infatti, il gruppo che è stato liquidato si stava impegnando nell’identificare e prevenire le criticità e le insidie, denunciate da più parti, derivanti dalla tecnologia GPT di OpenAI.
Il team si occupava, infatti, di analizzare rischi e opportunità dell’integrare piattaforme avanzate di Intelligenza Artificiale in prodotti nuovi e consolidati dell’azienda, tra cui la chatbot ChatGpt che, come emerge da diverse inchieste e fatti di cronaca, tenderebbe a mentire, a manipolare gli utenti e ad aggirare le norme basilari richieste.
OpenAI continua ancora oggi ad ammettere che il suo prodotto sia ancora soggetto a “limitazioni” quali «pregiudizi sociali, allucinazioni e prompt antagonisti». Invece di sanare questi problemi, si è scelto di insabbiarli e, anzi, di mettere alla porta coloro che avrebbero potuto orientare in maniera etica il prodotto, tutelando così i consumatori.
Negli ultimi anni, il team ha progettato un gioco di ruolo chiamato Judgment Call, che ha aiutato i progettisti a immaginare i potenziali danni che potrebbero derivare dall’IA. Più di recente, Ethics & Society ha lavorato per identificare i rischi posti dall’adozione da parte di Microsoft della tecnologia OpenAI in tutta la sua suite di prodotti.
Il comunicato della società
«Microsoft continua a impegnarsi per sviluppare e progettare prodotti ed esperienze IA in maniera sicura e responsabile», ha dichiarato l’impresa attraverso un comunicato. «Così come la tecnologia in questione è evoluta e si è rinforzata, così han fatto anche i nostri investimenti, il che vuol dire che occasionalmente sia necessario aggiustare la struttura dei nostri team per renderli più efficienti. Per esempio, negli ultimi sei anni abbiamo aumentato il numero di persone all’interno dei nostri team di produzione che si dedicano a certificare la nostra adesione ai nostri principi IA. Abbiamo anche ingrandito la scala e gli obiettivi del nostro Ufficio Responsabile della IA, il quale garantisce supporto interaziendale su argomenti quali l’analisi di casi d’uso sensibile e per sostenere politiche che tutelano i consumatori».
A distanza di pochi giorni dalla comunicazione dei licenziamenti, datata 6 marzo, OpenAI ha lanciato l’aggiornamento dei sistemi.
Le pressioni denunciate in un audio
Platformer è entrata in possesso di una registrazione audio in cui il Vicepresidente della sezione IA, John Montgomery, ha rivelato ai dipendenti come la dirigenza stesse facendo pressioni per alleggerire i normali procedimenti di analisi e supervisione a cui normalmente sarebbero sottoposte le Intelligenze Artificiali ad uso commerciale.
Montgomery avrebbe poi respinto le pressioni di alcuni dipendenti a rivedere queste decisioni, spostando prima i membri della squadra in altre sezioni della società, per poi licenziarli il 6 marzo scorso.
