Dall’estremismo all’AI sintetica: le forze che stanno erodendo la fiducia nel web

John Thornhill

9 Gennaio 2026 - 07:47

Dall’AI ai troll stranieri: perché oggi credere a ciò che leggiamo online è sempre più difficile.

Dall’estremismo all’AI sintetica: le forze che stanno erodendo la fiducia nel web

È difficile immaginare che il presidente Donald Trump sarebbe arrivato al potere senza i social media. Il suo genio politico è stato padroneggiare il mezzo della nostra epoca, alimentando risentimenti, mobilitando consenso e provocando indignazione in modi senza precedenti.

Durante il suo primo mandato ha twittato più di 25.000 volte (una media di 18 post al giorno). È stato altrettanto prolifico sulla sua piattaforma Truth Social nel suo secondo mandato. Si potrebbe quasi dire che il suo approccio sia: governo dei social media, dai social media, per i social media.

Il movimento Maga di Trump ha trovato la sua naturale casa online, con molte migliaia di account che amplificano i suoi messaggi. Risulta quindi ancora più sorprendente scoprire che alcuni degli account “America First” più attivi sono gestiti dall’estero.
In una mossa per garantire “l’integrità della piazza globale”, la piattaforma X ha iniziato venerdì scorso a pubblicare i dati sulla posizione degli utenti. Di conseguenza, è emerso che decine di influenti account Maga sono gestiti da paesi stranieri, tra cui Russia, India e Nigeria.

Ad esempio, l’account MAGA NATION, che sostiene di essere una “Patriot Voice for We The People” con più di 393.000 follower, è basato nell’Europa orientale (non UE), ha rivelato X.
Attori stranieri maligni sono noti per utilizzare account impostori — sia per manipolare il dibattito politico sia per generare traffico e fare soldi. Questo è solo uno dei modi in cui la nostra infosfera viene deliberatamente degradata.
Ci sono però anche altri tre tipi di deformazioni dei social media. Chiamiamoli i quattro cavalieri dell’infocalypse. Se lasciati senza controllo, distruggeranno la nostra fiducia in quasi tutto ciò che leggiamo online.

Il secondo elemento corrosivo è il modo in cui opinioni estremiste, una volta confinate negli angoli più oscuri del web, sono filtrate nel dibattito mainstream, come documentato da Julia Ebner, ricercatrice dell’Università di Oxford e autrice di Going Mainstream.
In un discorso a Londra questa settimana, Ebner ha descritto come jihadisti islamisti, incel misogini, teorici della cospirazione e suprematisti bianchi seguano un simile manuale digitale per diffondere le loro idee. Gli estremisti spesso si trovano su siti come 4chan, Parler e Discord, dove attirano follower attraverso gamification, globalizzazione e glorificazione, per poi migrare verso piattaforme mainstream come Facebook, X e YouTube per diffondere le loro idee.

Spesso le loro idee sono alimentate da siti mediatici e “troll army” provenienti da Russia, Cina e Iran, ha detto Ebner. Ha indicato i siti russi Sputnik e RT, che sostengono le campagne vaccinali in Russia ma diffondono teorie complottiste anti-scientifiche in inglese e tedesco.
L’influenza degli estremisti è ora amplificata dagli strumenti di intelligenza artificiale generativa, che hanno ridotto il costo della produzione di contenuti praticamente a zero. Questo ha portato al terzo fenomeno — una vasta diffusione di slop generato dall’AI. Due anni dopo il lancio di ChatGPT nel novembre 2022, il numero di articoli generati dall’AI pubblicati sul web ha superato quelli scritti da esseri umani.

Secondo l’agenzia AI Graphite, almeno il 52% dei contenuti online era generato da macchine a maggio di quest’anno. Non solo questi contenuti minacciano l’integrità del web, ma potrebbero anche mettere in pericolo la resilienza dei futuri modelli di AI.
Se i modelli di AI ingeriscono troppi dati sintetici c’è il rischio che diventino “impazziti” — o soffrano di model autophagy disorder. Quando l’input dei nuovi modelli diventa sempre più l’output dei modelli più vecchi, si rischia un collasso del modello, afferma Ethan Smith, amministratore delegato di Graphite.
Il quarto modo in cui la fiducia viene erosa è quando le piattaforme di social media si comportano più come editori partigiani che come piattaforme neutrali.

Poco dopo aver acquisito X (allora Twitter), Elon Musk ha eliminato gran parte della sua struttura di moderazione dei contenuti, portando a un aumento di discorsi razzisti e divisivi, secondo un’analisi del New York Times.
L’ultima mossa di X di pubblicare dati sugli account suggerisce che la piattaforma sia ora più seria nell’esporre gli utenti “inauthentic”. Tuttavia, questo è stato lo standard operativo delle squadre di sicurezza di altre piattaforme per anni.
La prospettiva che estremisti potenziati dall’AI e potenze straniere ostili sfruttino ulteriormente le vulnerabilità di aziende di social media permissive è inquietante. Ma mentre Ebner si definisce pessimista nel breve termine, si considera ottimista nel lungo periodo.

Ora c’è una maggiore consapevolezza di questi problemi tra governi e regolatori. Stanno emergendo piattaforme innovative che funzionano come reti di conversazione, incoraggiando la collaborazione più che il conflitto. Le aziende AI e i social media stanno attribuendo un valore più alto ai contenuti generati dagli esseri umani. E cresce uno scetticismo sano verso ciò che gli utenti vedono online, soprattutto tra i giovani.

“Ho molta speranza che la prossima generazione mostrerà sempre più resilienza. Sono intuitivamente familiari con il funzionamento di queste tecnologie”, mi dice Ebner.

Inoltre, altri politici stanno padroneggiando i social media. Il nuovo sindaco di New York, il 34enne socialista democratico Zohran Mamdani, ha mobilitato un enorme sostegno attraverso video virali. “Vincere a New York ora significa parlare fluentemente TikTok”, ha scritto un osservatore.
Per quanto imperfetti siano i social media, questa è una lezione che nessun politico può permettersi di ignorare.

© The Financial Times Limited 2026.
Tutti i diritti riservati. Non può essere ridistribuito, copiato o modificato in alcun modo.

Il Financial Times non è responsabile dell’accuratezza e della qualità di questa traduzione.

Money.it ha i diritti di ripubblicazione di alcuni articoli limitati del Financial Times. Questo non è un feed in tempo reale dei contenuti del Financial Times.