L’intelligenza artificiale (IA) è razzista. È questa l’accusa che va a scuotere una delle tecnologie emergenti più promettenti e affascinanti del nostro tempo, con il potenziale per trasformare radicalmente molte aree della nostra vita. Negli ultimi anni sono emersi sempre più casi in cui l’IA ha mostrato elementi di discriminazione razziale, suscitando preoccupazione e dibattiti su come questa tecnologia viene sviluppata e implementata.
L’IA, in quanto sistema di intelligenza simulata, è alimentata da dati raccolti da fonti esterne, come testi, immagini o registrazioni audio. Questi dati costituiscono il materiale di addestramento per l’IA, che impara a riconoscere modelli e fare previsioni in base alle informazioni fornite. Tuttavia, se i dati utilizzati per addestrare l’IA sono stati influenzati da pregiudizi, bias o discriminazioni razziali presenti nella società, è possibile che l’IA rifletta e perpetui tali pregiudizi nel suo funzionamento.
L’intelligenza artificiale è razzista
L’intelligenza artificiale è razzista e la sua discriminazione può manifestarsi in vari contesti, come la selezione del personale, l’analisi dei dati, l’approvazione di prestiti bancari. Questi sono solo alcuni esempi in cui sono emersi elementi di discriminazione razziale nell’IA.
Nel processo di selezione del personale, gli algoritmi possono basarsi su dati storici che riflettono disuguaglianze esistenti nella società. Ad esempio, se in passato sono stati favoriti candidati di una determinata etnia o sesso, l’algoritmo potrebbe imparare a perpetuare questa tendenza discriminante, escludendo ingiustamente candidati qualificati di altre etnie o di un sesso.
Nell’analisi dei dati, l’IA può essere influenzata da dati storici che riflettono stereotipi e pregiudizi razziali. Ad esempio, se un algoritmo di riconoscimento facciale è stato addestrato principalmente su dati di individui di una certa etnia, potrebbe avere difficoltà a riconoscere correttamente volti di altre etnie, portando a un trattamento ingiusto e discriminante. Non è un caso se Steve Wozniak, co-fondatore di Apple, abbia lanciato un allarme contro Chat Gpt, dichiarando che può commettere «cose orribili non sapendo cosa sia l’umanità». Secondo Wozniak, le informazioni fornite dalla IA sono spesso errate.
Nell’approvazione dei prestiti bancari, gli algoritmi possono considerare fattori legati alla razza come l’indirizzo di residenza o il tipo di lavoro, portando a discriminazioni. Un esempio tangibile è il «redlining» nella Chicago degli anni ’30, in cui i prestiti venivano negati ai quartieri prevalentemente afroamericani. Questa discriminazione algoritmica si ripercuote ancora oggi, poiché l’uso di intelligenza artificiale per le decisioni di prestito può replicare le disuguaglianze storiche. Ciò comporta un accesso disuguale al credito per gruppi etnici specifici e contribuisce alla perpetuazione delle disuguaglianze economiche.
La discriminazione razziale nell’IA ha effetti negativi sulla società e sulle persone coinvolte. Innanzitutto, può amplificare le disuguaglianze esistenti, creando barriere per i gruppi svantaggiati e limitando le opportunità di crescita e sviluppo. Inoltre, può danneggiare la fiducia delle persone nell’IA e nei suoi sistemi decisionali, minando l’adozione di queste tecnologie e limitando i benefici che potrebbero offrire.
Perché l’intelligenza artificiale sarebbe razzista?
La discriminazione razziale nell’intelligenza artificiale può essere attribuita a diversi fattori che contribuiscono alla presenza di bias nei sistemi. Due delle cause principali sono la presenza di pregiudizi nei dati utilizzati per addestrare la IA e la mancanza di diversità nella progettazione degli algoritmi.
I dati utilizzati per insegnare all’IA sono spesso influenzati da pregiudizi umani. Se i dati storici riflettono pregiudizi, disuguaglianze o stereotipi razziali, l’algoritmo potrebbe imparare a replicare questi modelli discriminanti. Per esempio, immaginando un sistema di analisi dei dati utilizzato per valutare la concessione di prestiti bancari, se i dati storici utilizzati per addestrare l’IA riflettono pregiudizi nell’assegnazione dei prestiti a determinati gruppi etnici, l’algoritmo potrebbe apprendere e perpetuare tali disuguaglianze nel processo decisionale. Ad esempio, se i prestiti sono stati storicamente concessi in misura maggiore a persone di un particolare gruppo etnico, l’IA potrebbe basarsi su tali dati per prendere decisioni future, risultando in un trattamento discriminatorio nei confronti di altri gruppi etnici. Questo potrebbe creare un circolo vizioso in cui le disuguaglianze passate vengono perpetuate e amplificate dall’IA, causando danni significativi alle persone coinvolte e alimentando ulteriori disuguaglianze nella società (feedback loop).
Inoltre, la mancanza di diversità nella progettazione degli algoritmi può contribuire alla discriminazione razziale nell’IA. Se i team che sviluppano l’IA non sono sufficientemente diversificati in termini di razza, possono mancare prospettive e sensibilità necessarie per individuare e affrontare i bias razziali. La mancanza di rappresentanza può portare a una progettazione e a una valutazione delle prestazioni degli algoritmi che non tiene conto delle esperienze e delle necessità dei diversi gruppi razziali.
Inoltre, la complessità degli algoritmi di apprendimento automatico può rendere difficile individuare e comprendere come avvengono i processi decisionali, rendendo ancora più difficile affrontare i bias razziali. Alcuni algoritmi possono essere opachi e non trasparenti, rendendo complesso identificare e correggere i modelli discriminatori.
Il ruolo dei dati nell’intelligenza artificiale
Il ruolo dei dati nell’intelligenza artificiale è fondamentale poiché l’IA si basa sulla raccolta e l’analisi di grandi quantità di dati per addestrare i suoi modelli. Questi dati possono provenire da varie fonti, come testi, immagini, registrazioni audio o dati strutturati. L’obiettivo è fornire all’IA una vasta gamma di informazioni per identificare modelli e fare previsioni in base a essi.
Tuttavia, c’è un rischio significativo legato all’incorporazione di pregiudizi e discriminazioni razziali nei dati utilizzati per addestrare l’IA. Questo rischio deriva dal fatto che i dati stessi possono riflettere i pregiudizi e gli stereotipi presenti nella società da cui sono stati raccolti. Ad esempio, Apple e Goldman Sachs sono stati accusati di concedere alle donne limiti di credito della Apple Card inferiori rispetto a quelli concessi agli uomini. Tuttavia, il Department of Financial Services di New York ha respinto le accuse non avendo trovato prove di discriminazione basate sul sesso.
La disparità nei dati può portare a risultati sbagliati e a un trattamento ingiusto nei confronti di individui appartenenti a determinate etnie, sesso, religioni o minoranze in genere. Ciò può avere implicazioni negative in vari contesti, come l’identificazione delle persone sospette in ambito di sicurezza, l’accesso a servizi finanziari o la selezione del personale.
Soluzioni possibili contro la discriminazione razziale nell’IA
Affrontare la discriminazione razziale nell’intelligenza artificiale richiede l’adozione di soluzioni mirate che possano ridurre o eliminare i pregiudizi presenti nei sistemi.
Un primo passo fondamentale consiste nel miglioramento della qualità dei dati usati per l’addestramento. È essenziale effettuare una rigorosa analisi dei dati utilizzati, identificando eventuali bias o disuguaglianze presenti nella raccolta dei dati stessi. Inoltre, è necessario raccogliere dati provenienti da fonti diverse e rappresentative, al fine di evitare una sovrarappresentazione o sottorappresentazione di determinati gruppi.
Un secondo approccio riguarda lo sviluppo di algoritmi più trasparenti e interpretabili. È importante comprendere come l’IA prende decisioni e quali fattori influenzano tali decisioni. Gli algoritmi devono essere progettati in modo tale da poter spiegare il processo decisionale e i fattori considerati, consentendo una maggiore comprensione e valutazione da parte degli esperti e degli utenti.
Inoltre, è cruciale promuovere la diversità nella progettazione e nello sviluppo dell’intelligenza artificiale. Diversi punti di vista e prospettive culturali possono contribuire a evitare la perpetuazione dei pregiudizi razziali. Assicurare la presenza di team multidisciplinari e diversificati può aiutare a identificare e mitigare i potenziali bias razziali presenti nei sistemi di intelligenza artificiale.
Oltre a queste soluzioni, è importante promuovere la consapevolezza e la formazione sull’etica dell’IA, affinché i professionisti del settore siano in grado di riconoscere e affrontare i problemi legati alla discriminazione razziale nell’IA. Inoltre, istituzioni e organizzazioni devono adottare politiche e regolamentazioni che incoraggino la responsabilità e l’equità nell’uso dell’intelligenza artificiale, prestando particolare attenzione alla protezione dei diritti umani e alla non discriminazione.
Le soluzioni proposte saranno cruciali fino all’entrata in vigore nel 2025 dell’Ai Act, il regolamento europeo sull’intelligenza artificiale. Questo regolamento stabilirà rigide limitazioni entro le quali l’IA potrà operare, garantendo il rispetto dei diritti fondamentali dell’umanità.
