Nel pieno del dibattito sui rischi dell’Intelligenza Artificiale, si scopre che le assicurazioni hanno già cominciato a sfruttare l’IA per elaborare i dati e fornire nuovi servizi ai clienti.
A rivelarlo un articolo di Alessandro Da Rold e Claudio Antonelli pubblicato su La Verità, che fa riferimento a un documento pubblicato recentemente dall’IVASS, l’Istituto per la vigilanza sulle assicurazioni, sugli effetti diretti agli assicurati italiani dell’utilizzo delle nuove tecnologie digitali.
La relazione dell’IVASS
A fine 2022, l’IVASS ha condotto una rilevazione sull’utilizzo di algoritmi di Machine Learning (ML) da parte delle imprese di assicurazione in processi con impatto sulla clientela.
La relazione, dal titolo “Indagine sull’utilizzo degli algoritmi di Machine Learning da parte dalle imprese assicurative nei rapporti con gli assicurati”, è stata realizzata con i risultati di un questionario sottoposto a 93 assicurazioni (tutte italiane più 4 extra europee) i cui nomi restano coperti da anonimato. Tutte, negli ultimi anni, hanno implementato e usato un chatbot di intelligenza artificiale.
«L’indagine – leggiamo nel report – supporta un obiettivo strategico dell’IVASS, di analisi dell’evoluzione e dell’impatto delle tematiche InsurTech, favorendo lo sviluppo digitale in un moderno sistema di tutele per i consumatori. Le imprese di assicurazione riportano di essere in una fase iniziale e conoscitiva riguardo l’utilizzo degli algoritmi ML, adottati principalmente per l’ottimizzazione dei processi interni e, in casi circoscritti, nei rapporti con gli assicurati».
Ecco alcuni dati che emergono dal report:
«Il 43% delle imprese intervistate fa ricorso a una qualche forma di IA; il 27% utilizza almeno un algoritmo di ML nei processi che implicano effetti diretti sulla clientela, per una quota di mercato pari al 78% nel comparto danni e al 25% nel comparto vita i principali ambiti di utilizzo degli algoritmi di ML5 nei processi retail sono relativi alla prevenzione delle frodi e alla gestione dei sinistri, principalmente in ambito r.c. auto, e alla identificazione delle intenzioni di abbandono dei clienti».
I rischi
Uno dei grandi problemi che emerge dall’indagine sulle assicurazioni è che la gestione dei dati ottenuti con i nuovi strumenti di Intelligenza Artificiale è avvolta dal mistero, e solo una compagnia su 93 ha definito una policy specifica: «Almeno il 56% delle imprese che utilizzano algoritmi dichiara di essersi dotata di meccanismi interni per valutare la correttezza verso gli assicurati e rilevare indesiderate esclusioni o discriminazioni dei clienti».
È dunque l’algoritmo a profilare i clienti e a cercare di capire, in base ai dati raccolti, se si è affidabili oppure no e quindi a stabilire il prezzo della polizza.
Come se non bastasse, a pagina 4 del report, si scopre che le assicurazioni utilizzano il riconoscimento facciale del cliente «in caso di contatto a distanza e, nelle polizze salute, per la previsione di malattie che possono insorgere con maggiore probabilità da portare alla conoscenza dell’intermediario finanziario che sottoscrive il rischio, sulla base dell’anagrafica e della storia clinica dei clienti».
In Italia questa tecnica biometrica si può utilizzare solo previo consenso dell’individuo coinvolto. Inoltre, tra i vari pericoli che questa tecnica comporta, c’è la possibilità, come osservano Antonelli e Da Rold, che «il cliente possa senza particolari spiegazioni vedersi negare il prodotto assicurativo».
Come noto, infatti, non si tratta solo di un maggiore controllo e di un attacco alla privacy, ma esiste anche il rischio che l’IA penalizzi le minoranze.
La dataveglianza
Siamo entrati a pieno titolo nella cosiddetta “dataveglianza” che viene messa in atto attraverso tecniche sempre più sofisticate che permettono di incrociare e raffrontare istantaneamente i dati riguardanti un singolo soggetto.
Queste metodologie consentono di monitorare il comportamento, gli spostamenti e le transazioni dell’individuo, senza la visione diretta come avveniva nel sistema del Panopticon, fornendo un’immagine straordinariamente precisa della vita reale di colui che si controlla.
Il sospetto categoriale
La dataveglianza implica il rischio di individuare dei gruppi di soggetti accumunati da profili simili, che possono diventare il presupposto di quello che Gary T. Marx definisce il “sospetto categoriale”.
Marx, nella sua analisi sui metodi utilizzati dalla polizia statunitense per la previsione e soluzione dei crimini (la PredPol che ricorda straordinariamente quanto immaginato da Philip Dick in Minority Report), ha evidenziato molti esempi di sospetti categoriali, come per esempio, appartenere a una etnia considerata ad alto tasso di criminalità, l’abitare in zone degradate della città, l’aver effettuato spese straordinarie sopra il proprio stile di vita, ecc.
Questi dati possono portare alla creazione di un sospetto aprioristico su interi gruppi di cittadini.
Si arriva a prevedere il comportamento umano
Queste nuove forme di controllo, basate sull’Intelligenza Artificiale, non si limitano più a punire o vedere ciò che un individuo fa, ma cercano di prevedere quello che potrà fare. In questo modo, ci si sposta dal sorvegliare e controllare, al dirigere il comportamento su strade prestabilite come avviene, nella pratica, con gli algoritmi utilizzati dal marketing.
L’area del “sospetto categoriale” si è così notevolmente estesa e allargata a tutti coloro che possono essere considerati “individui a rischio” e che così vedono minata sia la loro privacy che la loro libertà d’azione e di movimento.
Il Superpanopticon
Grazie alle nuove tecnologie, si sta affermando quello che Mark Poster ha nominato il “Superpanopticon”, con un monitoraggio continuo dei cittadini.
Il Superpanopticon elettronico, a differenza del modello di Bentham, funziona attraverso lo spionaggio automatizzato delle data-immagini, una modalità di controllo che si effettua attraverso la raccolta, la selezione e l’incrocio dei dati personali e che si prolunga fin all’interno delle mura domestiche, in quanto siamo ormai immersi in una gabbia elettronica e digitale che non ci abbandona mai (così come non abbandoniamo mai il nostro smartphone).
L’onnipresente sorveglianza diviene, come nel Panopticon, un elemento deterrente spingendo il soggetto controllato ad adottare comportamenti virtuosi. Anche per pagare meno una polizzza assicurativa.
