È assolutamente chiaro che prendere decisioni tramite algoritmi può essere imperfetto. È altrettanto chiaro che anche il modo in cui prendono decisioni gli uomini può essere piuttosto imperfetta.
Tuttavia, le imperfezioni di questi due tipi di modalità probabilmente non sono le stesse. Come e quando la società dovrebbe fare uso della presa di decisioni algoritmica? Cass R. Sunstein fornisce un’analisi approfondita in «The use of algorithms in society» (Review of Austrian Economics, dicembre 2024, 37: 399–420).
Sunstein sottolinea due grandi vantaggi della presa di decisioni tramite algoritmi: può evitare pregiudizi e incoerenze. Il pregiudizio si verifica quando un giudice o un medico è eccessivamente influenzato da determinati fattori, come l’aver recentemente visto un caso apparentemente simile. L’incoerenza è invece una caratteristica tipicamente umana, per cui le regole decisionali possono essere applicate in modo diverso a seconda, ad esempio, delle condizioni meteorologiche o dell’orario della giornata (prima o dopo pranzo). (Per un’analisi sulla presa di decisioni nelle udienze per la libertà su cauzione, con riferimento a pregiudizi, incoerenze e un possibile ruolo degli algoritmi, un punto di partenza utile è «The US Pretrial System: Balancing Individual Rights and Public Interests», di Crystal S. Yang e Will Dobbie, pubblicato nell’autunno 2021 nel Journal of Economic Perspectives, dove lavoro come caporedattore).
Qui voglio concentrarmi su alcune delle riserve che Sunstein riassume riguardo al prendere le decisioni da parte degli algoritmi—alcune delle quali potrebbero essere superate con sistemi migliori nel tempo, altre forse no.
1) Anche se l’algoritmo fa un lavoro migliore rispetto alla maggior parte degli esseri umani, alcuni individui faranno meglio dell’algoritmo.
Sunstein scrive:
Alcuni studi importanti suggeriscono che, mentre gli algoritmi superano il 90% dei giudici umani nelle decisioni di libertà su cauzione, il 10% migliore dei giudici supera gli algoritmi. La ragione sembra essere che i migliori giudici possiedono e utilizzano informazioni private per prendere decisioni migliori. Considerano fattori che gli algoritmi non prendono in considerazione. Sembrano avere una sorta di conoscenza locale – una comprensione dell’imputato o delle circostanze che agli algoritmi manca. Possiamo facilmente immaginare una scoperta simile per i medici. È possibile che i migliori medici sappiano chi sottoporre a test per le malattie cardiache perché vedono o intuiscono qualcosa che gli algoritmi non considerano.
2) Il guadagno derivante dall’uso degli algoritmi in molti contesti è relativamente piccolo in termini percentuali, sebbene un piccolo miglioramento applicato a un gran numero di persone possa avere un impatto significativo.
Sunstein scrive:
[Come ho notato, gli algoritmi fanno meglio delle persone, ma non in modo spettacolare. Le cifre aggregate impressionanti, in termini di benefici per il benessere, derivano dal fatto che sono coinvolte popolazioni molto ampie. Se gli algoritmi mostrano un modesto aumento della precisione rispetto agli esseri umani, potremmo osservare miglioramenti apparentemente significativi. Se un algoritmo può aumentare leggermente la precisione dello screening per le malattie cardiache, potremmo vedere una riduzione significativa dei decessi. Ma un leggero aumento della precisione rimane comunque lieve. Ad esempio, ho detto che le formule funzionano meglio dei clinici. Ma nello studio mediano, le formule sono corrette il 73% delle volte, mentre i clinici il 68% delle volte.
3) Le persone sono meno disposte a perdonare gli errori algoritmici rispetto a quelli umani.
Sunstein:
In breve, le persone sono meno indulgenti con gli algoritmi rispetto agli esseri umani. … È razionale? Se le persone vogliono prendere la decisione corretta, non lo è. Se il loro obiettivo è guadagnare denaro o migliorare la loro salute, dovrebbero affidarsi al miglior decisore. Ma ancora una volta: se le persone trovano piacere nel prendere decisioni, una preferenza per prendere decisioni in autonomia potrebbe essere perfettamente razionale. Forse trovano divertente prendere decisioni. Forse amano imparare. Forse la presa di decisioni è una sorta di gioco. Forse amano la sensazione di responsabilità. Forse amano la responsabilità in sé. Se così fosse, l’avversione agli algoritmi non sarebbe affatto un errore.
4) Maggiore complessità limiterà i benefici di un algoritmo.
Ad esempio, l’algoritmo di un’app di incontri potrebbe offrire suggerimenti leggermente più validi rispetto a chi sceglie autonomamente, ma sicuramente senza garantire il vero amore. Sunstein racconta una storia interessante su una competizione predittiva chiamata Fragile Families Challenge, che insegna l’umiltà nei confronti delle previsioni algoritmiche.
Esiste un dataset chiamato Fragile Families and Child Wellbeing Study, che ha raccolto dati su migliaia di famiglie con genitori non sposati, in cui la madre ha dato alla luce un figlio intorno all’anno 2000. Lo studio ha raccolto una grande quantità di dati su queste famiglie alla nascita e ha effettuato follow-up a 1, 3, 5 e 9 anni. La sfida era usare questi dati iniziali per prevedere determinati risultati quando il bambino avesse compiuto 15 anni. Centinaia di analisti hanno partecipato alla competizione e sono stati selezionati 160 team. Tuttavia, molte previsioni erano simili tra loro, ma nessuna era davvero accurata.
Sunstein scrive:
La domanda centrale era semplice: quale dei 160 team avrebbe fatto previsioni accurate? La risposta è: nessuno. È vero, gli algoritmi di machine learning erano migliori del caso; non erano pessimi. Ma non erano molto migliori del caso, e per gli eventi singoli – come se il caregiver principale fosse stato licenziato o avesse partecipato a un corso di formazione – erano solo leggermente migliori del caso. I ricercatori hanno concluso che “la bassa accuratezza predittiva non può essere facilmente attribuita ai limiti di un particolare ricercatore o approccio; centinaia di ricercatori hanno tentato l’impresa e nessuno è riuscito a prevedere con precisione.”
5) Gli algoritmi non sono bravi, e forse non possono esserlo, nel prevedere eventi dipendenti da una sequenza di avvenimenti.
Domande come quando emergerà o declinerà un movimento politico, o se una band musicale o un film diventeranno popolari, dipendono dallo sviluppo di una catena di eventi. Gli algoritmi si basano su schemi del passato e potrebbero non essere efficaci nel prevedere la tempistica o la probabilità di queste sequenze future.
La sfida sta nel considerare sia i benefici che gli svantaggi degli algoritmi nei diversi contesti. Se una persona a me cara affrontasse una decisione di libertà su cauzione e non sapessi quale giudice la prenderà, personalmente preferirei che fosse un algoritmo a decidere. Quando si tratta di algoritmi che regolano le auto a guida autonoma, molte persone sono chiaramente meno indulgenti con gli errori algoritmici rispetto a quelli umani. In molti contesti, dall’amore alle possibilità future, l’orientamento fornito dagli algoritmi può essere positivo, ma piuttosto limitato.
A mio avviso, gli algoritmi sono sempre interessanti perché esplicitano le ragioni di una decisione sottostante. A volte queste ragioni rivelano pregiudizi e incoerenze nelle decisioni umane; a volte, invece, è l’algoritmo stesso a mostrare pregiudizi. Ma conoscendo le motivazioni, è possibile valutare le decisioni in modo più chiaro.
Questo articolo è ripreso e tradotto da Conversable Economist.
