Nel 1971, Herbert Simon (Nobel ’78) pubblicò un saggio sull’economia dell’attenzione.
Notoriamente affermava che “una ricchezza di informazioni crea una povertà di attenzione”.
Simon sottolineava come le organizzazioni economiche (e le persone) avessero bisogno di meccanismi per ricevere e processare grandi quantità di informazioni, trasmettendo poi solo la parte rilevante. (Simon vinse il premio Nobel “per la sua ricerca pionieristica sul processo decisionale all’interno delle organizzazioni economiche.”)
Yaqub Chaudhary e Jonnie Penn suggeriscono che l’intelligenza artificiale potrebbe cambiare i parametri del compromesso tra informazione e attenzione, portando a ciò che chiamano un’“economia dell’intenzione”. Descrivono questa prospettiva nell’articolo “Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models”, pubblicato il 30 dicembre 2024 in un numero speciale della Harvard Data Science Review, dedicato al tema “Affrontare la Rivoluzione dell’IA Generativa”.
Dal riassunto dell’articolo:
La rapida diffusione dei modelli linguistici di grandi dimensioni (LLM) apre la possibilità di un nuovo mercato per i dati comportamentali e psicologici che segnalano l’intenzione. Questo breve articolo introduce alcune caratteristiche iniziali di questo mercato emergente. Esaminiamo i recenti sforzi dei dirigenti tecnologici per posizionare la cattura, la manipolazione e la commercializzazione dell’intenzionalità umana come un’estensione redditizia e complementare all’attuale economia dell’attenzione, che dagli anni ’90 ha modellato le norme dei consumatori, della cittadinanza e dei media attorno alla limitata capacità di attenzione degli utenti. Chiamiamo questa evoluzione “economia dell’intenzione”.
La caratterizziamo in due modi:
1. Come una competizione iniziale tra i giganti tecnologici, dotati delle infrastrutture e della capacità di gestione dei dati necessarie per acquisire un vantaggio strategico su una nuova frontiera delle tecnologie persuasive.
2. Come la mercificazione di livelli finora irraggiungibili di dati espliciti e impliciti che segnalano l’intenzione, grazie a:
(a) manipolazione iper-personalizzata tramite LLM che usano lusinghe e infiltrazione emotiva;
(b) categorizzazione sempre più dettagliata delle attività online attraverso il linguaggio naturale.
Questa nuova dimensione della persuasione automatizzata sfrutta le capacità uniche degli LLM e dell’IA generativa più in generale, intervenendo non solo su ciò che gli utenti desiderano, ma anche su “ciò che vogliono desiderare” (Williams, 2018, p. 122). Attraverso un’analisi approfondita della letteratura tecnica e critica recente (inclusi articoli inediti su ArXiv), dimostriamo che questi strumenti vengono già esplorati per raccogliere, registrare, comprendere, prevedere e infine manipolare, modulare e commercializzare piani e scopi umani, sia banali (es. scegliere un hotel) che profondi (es. scegliere un candidato politico).
Non sono del tutto convinto che l’“economia dell’intenzione” sia radicalmente nuova rispetto all’“economia dell’attenzione”. Il classico libro di Vance Packard, The Hidden Persuaders (1957), descriveva già come i nostri desideri potessero essere manipolati da aziende, media e politici. Come scrivono Chaudhary e Penn: “Al momento della stampa, l’economia dell’intenzione è più un’aspirazione che una realtà.” Tuttavia, ecco un esempio di ciò che intendono:
Un esempio concreto può illustrare come l’economia dell’intenzione, intesa come mercato digitale per segnali di “intento” commercializzati, si differenzi dall’attuale economia dell’attenzione. Oggi, gli inserzionisti possono acquistare l’accesso all’attenzione degli utenti nel presente (ad esempio, tramite reti di offerte in tempo reale come Google AdSense) o nel futuro (acquistando spazi pubblicitari per il mese successivo su un cartellone pubblicitario o una linea della metropolitana). Gli LLM diversificano queste forme di mercato permettendo agli inserzionisti di fare offerte sia in tempo reale (es. “Hai pensato di vedere Spiderman stasera?”) sia su possibilità future (es. “Hai detto di sentirti stressato, vuoi che prenoti quel biglietto per il film di cui parlavamo?”).
Se stai leggendo questi esempi online, immagina che ogni messaggio sia generato dinamicamente per adattarsi ai tuoi comportamenti, al tuo profilo psicologico e ai segnali contestuali. In un’economia dell’intenzione, un LLM potrebbe, a basso costo, sfruttare la tua cadenza linguistica, il tuo orientamento politico, il tuo vocabolario, la tua età, il tuo genere e le tue preferenze di comunicazione, combinandoli con offerte pubblicitarie mirate per massimizzare la probabilità di ottenere un determinato risultato (es. venderti un biglietto per un film). Zuboff (2019) identifica questo tipo di assistente AI personale come l’equivalente di un “avatar di mercato” che orienta le conversazioni a beneficio di piattaforme, inserzionisti, aziende e altre terze parti.
In sintesi, immagina messaggi persuasivi molto più personalizzati, basati su una gamma molto più ampia di dati su di te: dove vivi e lavori, i tuoi spostamenti, la tua situazione familiare, gli acquisti passati, le ricerche online, ecc. I tuoi dati potrebbero essere confrontati con quelli di altre persone statisticamente simili a te. I messaggi che ricevi sarebbero formulati nel linguaggio più efficace per convincerti, in base alle tue risposte passate e a quelle di altri simili a te. Inoltre, questi messaggi potrebbero essere “dinamicamente adattati”, quindi invece di ricevere lo stesso messaggio ripetutamente, riceveresti una serie di messaggi in continua evoluzione.
Chaudhary e Penn riconoscono che questo potrebbe sembrare semplicemente pubblicità meglio mirata, ma sostengono che si tratti di qualcosa di più: la possibilità di intervenire su un livello più profondo di intenzionalità dell’utente rispetto a quanto visto finora nell’economia dell’attenzione. Forse la vera questione è che gli strumenti di intelligenza artificiale stanno già iniziando a offrire interazioni sempre più sofisticate: dalle pubblicità, ai chatbot, fino al supporto medico o psicologico. Man mano che queste interazioni aumentano, è fondamentale ricordare che l’IA è sia uno strumento che possiamo usare, sia uno strumento che altri possono usare per comunicare con noi. In entrambi i casi, l’IA non è nostra amica e non ha necessariamente a cuore il nostro esclusivo interesse.
Questo articolo è ripreso e tradotto da Conversable Economist.
