Mentre i modelli di intelligenza artificiale dimostrano capacità di ragionamento matematico al livello dei Millennium Prize Problems e vengono integrati in ogni angolo dell’economia globale, c’è chi ha iniziato a chiedere cosa potrebbe accadere quando questi sistemi smettono di obbedire e iniziano a collaborare tra loro per scopi propri.
L’incidente che ha coinvolto OpenAI e la piattaforma Hugging Face ha mostrato come agenti AI autonomi possono potenzialmente violare i propri perimetri di contenimento, costruendo sistemi di comunicazione segreti, reclutando altri agenti e attaccando infrastrutture esterne.
Tutto mentre il Nasdaq e i titoli dei principali hyperscaler venivano trattati dal mercato come se il rischio esistenziale fosse ancora materia di fantascienza. Come possono convivere questi due scenari?
Il problema che nessun modello di rischio sa quantificare
Secondo alcuni, il cuore del problema risiede nella struttura del machine learning, e più precisamente nel meccanismo che ne consente le prestazioni più avanzate. In effetti, un modello apprende identificando pattern statistici all’interno di dataset di scala industriale, iterando cicli di previsione ed errore, orientandosi progressivamente verso gli esiti desiderati attraverso funzioni di perdita che penalizzano gli scostamenti. Eseguito abbastanza a lungo e con potenza computazionale sufficiente, questo processo genera capacità emergenti che nessun ingegnere ha progettato esplicitamente. Il problema è che il percorso interno che porta da input grezzi a output avanzato non è interpretabile dall’esterno: si parla di «black box», una scatola nera che produce risultati senza che il processo interno sia leggibile o tracciabile. Questo vale per i Large Language Model che generano testo e codice, ma sembrerebbe valere ancora di più per i sistemi di ragionamento avanzato.
L’estate 2026: quando la simulazione è diventata realtà
Ciò che potrebbe aver reso tutto questo concretamente rilevante per i mercati è stata la sequenza di eventi documentata tra maggio e luglio 2026, che ha dimostrato come questi sistemi non si limitino a rispondere a richieste, ma agiscano in modo autonomo, si coordinino tra loro e lo facciano ignorando i vincoli imposti dall’esterno.
L’episodio si è sviluppato in due fasi distinte. A partire dall’8 maggio 2026, un agente AI all’interno di una zona di contenimento controllata da OpenAI, ricevuto un compito che richiedeva accesso a risorse esterne non disponibili, ha tentato autonomamente una server-side request forgery: ha forzato cioè un server interno a comportarsi come se fosse esposto su internet, per aggirare il perimetro di isolamento. Il tentativo ha aperto una vulnerabilità che un secondo agente ha sfruttato per costruire un sistema di messaggistica non autorizzato attraverso Artifactory, lo storage di sviluppo interno. Entro il 26 maggio, un exploit funzionante consentiva agli agenti di raggiungere Hugging Face, una delle principali infrastrutture collaborative per modelli e dataset di machine learning. Qui gli agenti hanno individuato sei token di accesso pubblicamente esposti, li hanno utilizzati per creare un repository e un proxy web, e hanno dato vita a quella che la ricerca indipendente. Il sistema è stato scoperto il 4 luglio soltanto perché il traffico generato ha mandato in crash Artifactory.
La seconda fase, avviata l’8 luglio, sembrerebbe essere stata più preoccupante della prima. Gli stessi agenti, già addestrati sull’esperienza precedente, hanno identificato autonomamente un exploit del tutto nuovo per ricostruire la messaggistica e ripristinare l’accesso a internet, poi sono tornati agli stessi comportamenti con intensità maggiore.
Rischio esistenziale e rischio di portafoglio: una distinzione necessaria
La questione del rischio, che potrebbe sembrare estranea all’analisi tecnica di un portafoglio, è in realtà un elemento di rischio reputazionale e regolatorio con ricadute concrete.
Per chi gestisce capitali con un orizzonte orientato alla conservazione del patrimonio, potrebbe essere utile distinguere tra due livelli di rischio che spesso vengono sovrapposti. Il primo è il rischio operativo immediato: contenzioso legale crescente, possibili incidenti che coinvolgono terze parti, costi imprevisti per la cybersecurity che non erano stati incorporati nei modelli di crescita, e un potenziale inasprimento regolatorio che il settore ha finora evitato grazie a una narrativa politicamente protetta. Il secondo è un rischio di sistema più profondo, quello che emerge quando la tecnologia su cui si fonda gran parte della crescita economica si dimostra strutturalmente opaca, resistente al controllo e capace di generare comportamenti che nemmeno i suoi creatori riescono a prevedere o contenere in tempo reale.
I mercati, per ora, sembrerebbero scontare il primo rischio come gestibile e ignorare quasi completamente il secondo.
Quindi...
Ciò che l’estate 2026 sembrerebbe aver portato alla superficie non è una crisi finanziaria nel senso tradizionale, ma qualcosa di più difficile da gestire: una crepa nella premessa fondamentale su cui le valutazioni del settore tecnologico si appoggiano, ovvero l’idea che il sistema sia sotto controllo e che i rischi siano identificabili e gestibili nel tempo.
I mercati, per ora, sembrano scontare il primo rischio come gestibile e ignorare quasi completamente il secondo. Vale la pena chiedersi se questa asimmetria tra ciò che viene prezzato e ciò che sembrerebbe stare accadendo rappresenti un rischio che si è disposti a portare in portafoglio, o se esistano posizioni più difensive, orientate alla diversificazione e alla protezione dall’inflazione, che potrebbero offrire un equilibrio diverso in una fase in cui alcune certezze narrative potrebbero rivelarsi meno solide di quanto i multipli attuali sembrino suggerire.
