Le auto invisibili esistono? L’esperimento noRecognition svela come un adesivo sulla carrozzeria riesca a ingannare i radar e l’IA.
In molte città la tecnologia di sorveglianza stradale basata sull’intelligenza artificiale viene utilizzata quotidianamente per monitorare il traffico e identificare i veicoli in circolazione. Questi impianti sono generalmente estremamente affidabili; tuttavia, il loro funzionamento dipende in gran parte dai dati con cui sono stati addestrati. Se, per esempio, un oggetto presenta elementi visivi non previsti dal software, il sistema potrebbe andare in crisi.
Un recente esperimento condotto nel settore della cibersicurezza ha dimostrato che è possibile rendere un’automobile del tutto invisibile ai sistemi di tracciamento automatico, sfruttando una particolare copertura per la carrozzeria. Un risultato che mette in luce le vulnerabilità dell’architettura dei moderni dispositivi di controllo urbano.
Il test noRecognition: così un’auto normale sparisce dagli schermi dei radar
L’esperimento è stato presentato da Bill Swearingen, esperto di sicurezza informatica, nel corso della conferenza sulla cibersicurezza Def Con a Las Vegas. Il progetto è stato denominato noRecognition (Nessun Riconoscimento) ed è nato con l’obiettivo di verificare se una trama grafica generata al computer possa fungere da barriera visiva contro i software utilizzati per identificare i veicoli e le persone riprese dagli impianti di videosorveglianza.
Swearingen ha ricoperto la carrozzeria di una Toyota Yaris del 2009 con una serie di adesivi stampati, caratterizzati da una specifica sequenza geometrica elaborata tramite computer. Il test ha dimostrato che, mentre le telecamere continuavano a registrare regolarmente il passaggio della Toyota nei flussi video, il software di analisi ad esse collegato non è stato in grado di rilevare l’automobile.
A livello visivo il veicolo era perfettamente percepibile all’occhio umano, ma per l’algoritmo di tracciamento quel veicolo non esisteva. La vettura ha continuato a circolare indisturbata attraverso i varchi di rilevamento senza produrre alcuna notifica nei dati raccolti dai server centrali.
Come funziona l’illusione ottica che inganna l’intelligenza artificiale
A differenza della percezione visiva umana, i sistemi di monitoraggio vengono addestrati mostrando loro un’ampia mole di immagini di veicoli, in modo tale che riescano a memorizzare la sagoma o la conformazione strutturale dei vari mezzi. L’esperimento condotto da Swearingen ha sfruttato una tecnica nota come apprendimento automatico avversario (Adversarial machine learning), impiegando motivi visivi studiati appositamente per alterare i punti di riferimento utilizzati dagli algoritmi.
Una persona riesce a distinguere e riconoscere la struttura di un’automobile a prescindere dai disegni presenti sulla sua carrozzeria; al contrario, il software scompone l’immagine in dati per cercarvi delle corrispondenze note all’interno del proprio database.
Nel caso della Toyota Yaris protagonista dell’esperimento, è stato adottato un pattern capace di interrompere queste linee guida matematiche, riuscendo così a generare un’interferenza visiva che impedisce al sistema di associare l’immagine alla categoria del veicolo. Il sistema di videosorveglianza viene ingannato al punto da classificare erroneamente l’oggetto o da ignorarlo del tutto.
Privacy e futuro, indumenti e coperture per sfuggire alla sorveglianza di massa
Il progetto noRecognition è servito anche per affrontare il tema della tutela dei dati e della riservatezza negli spazi pubblici. Swearingen ha chiarito che l’iniziativa ha altresì l’obiettivo di fornire ai cittadini un mezzo pratico per esercitare il loro diritto a escludersi dal tracciamento sistematico svolto dalle macchine.
Negli ultimi anni, infatti, la diffusione di impianti di sorveglianza gestiti da algoritmi avanzati ha ridotto notevolmente la possibilità di proteggere la propria sfera privata mentre ci si sposta in pubblico.
L’esperto ritiene che la privacy debba rimanere un diritto fondamentale, da difendere di fronte a qualsiasi strumento di controllo automatizzato. Proprio per questo motivo, l’applicazione del pattern sulla Toyota Yaris è solo la punta dell’iceberg. Il progetto di Swearingen è molto più ambizioso e, in futuro, contempla la progettazione di teli protettivi per automobili e l’integrazione di questi motivi grafici su capi di vestiario comuni, consentendo alle persone di muoversi liberamente senza essere identificate o catalogate dai sistemi automatici di tracciamento.
