«L’identificazione automatica delle norme sociali e della loro violazione è una sfida aperta che può essere molto importante per diversi progetti, come l’ingegnerizzazione di interpreti digitali a supporto di interazioni culturali e programmi di comprensione culturale computazionale di DARPA che ha finanziato il progetto in corso».
Studiare e classificare le emozioni sociali corrispondenti a determinate situazioni, per identificare eventuali violazioni delle norme sociali. È lo scopo del progetto avveniristico di intelligenza artificiale (IA) sviluppato dall’Università israeliana di Ben-Gurion e finanziato da parte della DARPA (Defense Advanced Research Projects Agency), che mira a riconoscere e monitorare le violazioni delle norme sociali.
Questo programma solleva gravi preoccupazioni riguardo all’uso pervasivo ed efficace della tecnologia per il controllo sociale, e va ad aggiungersi al già onnipervasivo controllo delle telecamere, alimentato dalla polizia predittiva, dal dispiegamento di robot e dal riconoscimento facciale.
Il progetto si basa sull’utilizzo di un modello di IA denominato GPT-3, che è in grado di identificare situazioni in cui vengono menzionati comportamenti socialmente inaccettabili, collegandoli a specifiche emozioni sociali.
Tuttavia, le implicazioni di questo sistema sono profonde e problematiche. Innanzitutto, il concetto di «norme sociali» può variare significativamente da cultura a cultura, e le emozioni sociali correlate possono essere altrettanto diverse. L’assunto che un insieme limitato di emozioni possa rappresentare tutte le sfaccettature delle norme sociali è alquanto riduttivo e rischia di generalizzare e livellare i comportamenti complessi in modo arbitrario.
Il metodo utilizzato, con il cosiddetto «classificatore zero shot» crea ulteriori preoccupazioni. Inserendo un elenco di situazioni etichettate con emozioni sociali, l’IA genera punteggi che indicano se una data situazione sia in conformità con le norme sociali o se violi tali norme.
Questo approccio semplificato non tiene conto del contesto o della storia individuale di chi compie l’azione. Di conseguenza, vi è il rischio che la tecnologia possa etichettare erroneamente comportamenti perfettamente legittimi come "violazioni delle norme sociali”, così come con la polizia predittiva si genera un numero altissimo di falsi positivi in base a dei sospetti categoriali.
Un aspetto particolarmente inquietante di questo progetto è il suo finanziamento da parte della DARPA, un’agenzia governativa degli Stati Uniti con focus sullo sviluppo di tecnologie a uso militare. Questo fatto suggerisce che il governo americano sia interessato a creare strumenti per disciplinare i comportamenti e fare applicare più efficacemente determinate norme, sfruttando l’IA come strumento di controllo sociale.
L’uso di tale tecnologia sui social network potrebbe anche portare alla censura di opinioni scomode, etichettandole come non conformi alle norme sociali stabilite da chi detiene il potere.
Inoltre, il sistema di apprendimento automatico utilizzato semplifica e riduce l’essenza delle emozioni e dei comportamenti umani a poche variabili predefinite. Questo approccio limitato e matematico non tiene conto della complessità delle interazioni umane e della natura mutevole delle norme sociali nel corso del tempo. Come risultato, la tecnologia potrebbe facilmente manipolare e orientare le masse, minando il concetto stesso di libero arbitrio.
Sebbene il progetto possa essere presentato come un mezzo per studi sociologici, è difficile ignorare il rischio che si trasformi in uno strumento pericoloso di governo, in cui l’IA è utilizzata per classificare e influenzare pensieri, emozioni e azioni secondo gli interessi delle élite dominanti. Questa tecnologia potrebbe alimentare un’omologazione forzata basata su canoni tecnocratici e valori occidentali.
