Nell’ottobre 1945, J. Robert Oppenheimer venne ricevuto alla Casa Bianca dall’allora Presidente degli Stati Uniti, Harry S. Truman.
Il mondo era appena uscito da un rovinoso conflitto mondiale, e vi era uscito anche per via di quel devastante baluginio deflagrato a Hiroshima e Nagasaki. I tormenti dello scienziato, ben esemplificati dalla nota citazione del passo della Bhagavadgītā, ‘sono divenuto morte – distruttore dei mondi’ particolarmente amato da Oppenheimer, durante quell’incontro raggiunsero vette quasi letterarie. ‘Le mie mani grondano sangue’ disse Oppenheimer rivolto al Presidente.
Invitò i suoi collaboratori a non fargli trovare mai più davanti lo scienziato che aveva contribuito a realizzare la bomba atomica, aggiungendo ‘non ha deciso lui di sganciare la bomba. L’ho fatto io’.
Decenni dopo, quella tensione sembra riprendere corpo nella gara per l’intelligenza artificiale e nella integrazione di questa nei dispositivi bellici e di sicurezza. La recentissima querelle tra Anthropic, la società realizzatrice del modello LLM ‘Claude’, e l’amministrazione Trump si gioca infatti sul delicatissimo crinale dell’impiego dell’AI in settori ad alto rischio.
Probabilmente fino a qualche anno fa un parallelismo tra armi nucleari e IA sarebbe stato rubricato a pessima fantascienza e accolto con una scrollata di spalle. In realtà Dario Amodei, il CEO di Anthropic, è stato sin dagli esordi della sua attività di ricerca preoccupato dalla similitudine e dai potenziali, devastanti pericoli dell’AI.
Tanto vero che ai nuovi assunti nella sua società era solito regalare una copia del volume ‘The Making of the Atomic Bomb’, libro concernente anche i tormenti etici degli scienziati che parteciparono al Progetto Manhattan e il rapporto complesso tra innovazione tecnologica e guerra.
Una copia è ancora oggi reperibile nella biblioteca di Anthropic.
La questione etica è prepotentemente tornata a fare la parte del leone nei dispositivi di governance e di regolazione dell’IA; si pensi agli studi di Stuart Russell, a quelli di Nick Bostrom o a quelli di Wendell Wallach e Colin Allen, e in Italia le analisi di padre Paolo Benanti, quelle di Luciano Floridi e di Mariarosaria Taddeo.
Viene riproposto il paradigma che l’umanità ha già sperimentato secoli fa, quello di una norma giuridica recessiva davanti fenomeni del tutto nuovi e chiamata quindi ad essere integrata da elementi ulteriori, quali l’etica appunto.
In fondo lo stesso diritto internazionale, quel ramo così curioso di normativa che si muove nel vuoto della sovranità, scaturisce proprio dalla filosofia morale e dalla teologia dei Grozio, dei Francisco de Vitoria e di altri giuristi-teologi che si dovettero confrontare con un cambio di paradigma abissale (nel loro caso, l’apertura delle rotte oceaniche, il confronto con territori inesplorati e non proprietari e il rapporto con popoli indigeni cui riconoscere, o meno, sovranità).
L’irrinunciabilità dell’IA per la sicurezza statale e per la difesa è un dato ormai assodato e pacifico.
Lo sanno bene alla Casa Bianca e al Pentagono e per questo i toni con Anthropic si sono presto surriscaldati fino ad arrivare al black-listing della società di Amodei.
Come ben sanno gli esperti di procurement, finire in una lista nera può potenzialmente distruggere un asset strategico e aziendale, visto che nei fatti crea un effetto tabula rasa attorno una data società, impedendo a uffici pubblici, dipartimenti, fornitori, potenziali acquirenti di servirsi dei prodotti di quella società.
Negli ultimi anni, il modello sviluppato da Anthropic, uno dei migliori LLM attualmente in circolazione, ha conosciuto un aumento costante anche in Europa: non solo nell’uso minuto da parte dei singoli utenti, ma proprio come forma adottata da società e realtà organizzative complesse.
Non per caso, la società di Amodei ha aperto molte sedi in Europa, dimostrando notevolissimo interesse per il mercato europeo.
Altrettanto non per caso quelle sedi sono in Svizzera, Germania e Francia, non in Italia. E già questa mancanza segnala un tema e un problema su cui noi Italiani dovremmo seriamente riflettere.
L’Europa però, in generale, assiste quasi impotente a questa corsa.
Nonostante abbia piena consapevolezza della posta in gioco, il suo ecosistema iper-regolato e peggio ancora iper-burocratizzato, la dipendenza strategica e tecnologica, ne minano le potenzialità.
Attualmente, il pacchetto semplificatorio del Digital Omnibus sta cercando di portare avanti l’equilibristica impresa di accelerare la possibilità di innovare tecnologicamente, come richiesto anche da Mario Draghi nel suo ormai celebre Rapporto e come scritto nel Compass sulla competitività redatto dalla Commissione, senza per questo sacrificare i diritti fondamentali, dalla protezione dai dati alla centralità dell’essere umano nei dispositivi di AI.
In fondo, la stessa posta in gioco nello scontro tra Pentagono e Anthropic.
Questa ultima ritiene pericolosissima l’ipotesi di servirsi di LLM, allo stato attuale dell’arte, per impiego LAWS, ovvero di armi autonome senza supervisione umana, e del pari respinge forme che ritiene di sorveglianza di massa.
Il Pentagono per parte sua oppone alla società di San Francisco il suo essere un organismo politico-amministrativo incarnante i processi democratici: sono le strutture governative, assieme al Congresso, a doversi porre questioni etiche e a contemperarle nel delicato bilanciamento tra efficienza bellica, sicurezza e tutela della libertà, non una società privata.
L’embricazione tra sfera del Tech e dispositivi privati sconvolge le logiche acquisite e gli schemi strutturati nel corso degli anni.
Per la precisa individuazione di Khamenei (come era già avvenuto per Maduro) è stato utilizzato il sistema Maven, di cui primo integratore è Palantir.
Integra (anche) elementi del LLM “Claude” di Anthropic e utilizza il cloud di Amazon Web Services (AWS).
Processa milioni di dati ricevuti da qualunque tipo di fonte (droni, sensori, videocamere, satelliti), accelerando il processo di elaborazione e di estrazione di informazioni, aumentando l’efficacia dell’output e connettendo tra loro processi distinti di estrazione e di lavoro organizzato (aumento quali-quantitativo del workflow).
Anthropic, come già Google nel 2017-2018, appare rifiutare l’impiego bellico delle proprie ricerche.
Nel caso di Google, Maven Smart System, che poi sarà portato avanti da Palantir e acquistato anche dalla NATO il 25 marzo 2025, nel caso di Anthropic l’LLM “Claude” integrato nelle piattaforme di Palantir.
Quando Google rifiutò la prosecuzione della propria collaborazione con il Pentagono, Peter Thiel attaccò duramente la società accusandola di minare in potenza la sicurezza nazionale americana.
Il timore di Anthropic ora è quello della sorveglianza di massa e quello, non meno banale, che l’utilizzo di armi non-human centered possa portare a gravissimi danni per il genere umano.
La questione è delicatissima e si basa su un nuovo bilanciamento tra opposte polarità. Se il diritto costituzionale nasce in fondo lungo la dorsale della endiadi problematica sicurezza/libertà, il nuovo diritto si agglutinerà nel corpo della tragica domanda ‘a quanto diritto possiamo rinunciare per avere ancora diritto?’.
Come ama ricordare Alex Karp, tutte le obiezioni mosse a certe realtà sono sensate, serie e vanno soppesate, ma non dobbiamo dimenticare che quelle questioni gli attori statali ostili non appartenenti alla latitudine liberal-democratica non se le pongono proprio. Corrono verso lo sviluppo di sistemi sempre più potenti, incuranti della rule of law, della libertà e dei diritti.
La sfida per l’Occidente è evitare che quella corsa sia vinta da quei soggetti, perché in caso contrario non avremo, molto semplicemente, più alcuna rule of law.
In questa prospettiva, se l’interesse privato e la logica aziendale vengono piegati agli interessi strategici statali, del pari, mediante una sorta di ‘zoonosi amministrativa’, la sfera pubblica è conquistata e catturata dal nesso di interdipendenza tecnologica e di ragion pratica del privato che rendono quest’ultimo non più un soggetto attuatore o un partner (si pensi al caro, vecchio partenariato pubblico-privato) quanto il vero motore senziente di un dato apparato.
La scelta finale è sempre quella del decisore politico e amministrativo, del funzionario, ma non solo lo schema tecnologico utilizzato per arrivare a essa è completamente privato ma la stessa logica di sistema che corrobora la formazione della decisione opera lungo direttrici private.
Quando si raggiunge il ‘momento Oppenheimer’ di una data tecnologia non può più configurarsi una distinzione netta e ruvida tra settori e funzioni.
La digitalizzazione e la piattaformizzazione, integrata con AI, anche dei servizi di sicurezza, da quella analogica a quella aziendale informatica, produrranno e stanno già producendo una convergenza con altre declinazioni della sicurezza.
Lo stesso legislatore quando anni fa parlava nei suoi testi normativi di sicurezza integrata prendeva atto, sia pure nel mondo degli atomi, della convergenza multi-livello tra dispositivi di sicurezza; il livello statale, quello regionale, quello comunale e quello privato, tutti integrati tra loro.
Ecco, ora si immagini lo stesso processo di convergenza avendo riguardo all’uso tecnologico, con un bonus (o un malus, a seconda delle prospettive): in questa integrazione, c’è non solo convergenza tra livelli funzionali ma anche tra settori (sicurezza nazionale digitale, cybersecurity: i framework regolatori sono distinti ma le funzioni integrate) e tra apparati organizzativi (servizi di intelligence, pubblica sicurezza, servizi privati di sicurezza e società tecnologiche).
I colossi americani stanno dimostrando, grazie all’alta tecnologia, di essere divenuti indispensabili per lo Stato. Sia in prospettiva macro sia in prospettiva micro.
Lo Stato ha dalla sua il maglio ordinamentale delle norme per piegarli alle proprie esigenze: contratti di evidenza pubblica con clausole speciali, black e white list, golden power.
Ma, al di là di questi dispositivi, non ha strumenti alternativi ad essi e questo conferisce una rendita di posizione, l’ultima parola strutturale, al soggetto privato.
Nel caso di Anthropic, il suo LLM è stato il più utilizzato, assieme ai sistemi di connettività veloce e sicura anti-jamming ricompresi in Starshield di Elon Musk, per arrivare ad analisi estrapolate da oceani informazionali e conseguenti attacchi su base elettronica (come nel caso dei droni): lo Stato semplicemente ne aveva bisogno, e continuerà ad averne bisogno.
Questo bisogno non si alimenta solo attraverso una fruizione passiva del servizio. Palantir non mette solo a disposizione le proprie piattaforme ma anche il proprio personale che cesella, adatta e modifica in tempo reale le piattaforme a seconda delle specifiche esigenze.
Significativo da questo punto di vista il fatto che Palantir possa essere descritta anche come ‘consulenza strategica’ e non solo come gigante software. Ha una geometria funzionalmente variabile, che non si limita a vendere prodotti ma a modellare e trasformare l’organizzazione a cui vende il prodotto.
E risalendo questo processo finisce, inevitabilmente, per riguardare tutto lo Stato.
Comprensibili quindi le preoccupazioni di Amodei, ma del pari il CEO di Anthropic deve considerare anche quegli attori non-occidentali che oggi, senza scrupoli e spesso servendosi in modo pirata anche di ‘Claude’, stanno cercando di raggiungere quei risultati da lui temuti, raggiunti i quali non esisteranno più diritti e ordinamenti in grado di garantirci tutela, diritti e libertà.
L’articolo completo è disponibile a questo link
