Deepfake: cosa sono, come funzionano, come riconoscerli

Niccolò Ellena

4 Gennaio 2023 - 10:00

I deepfake sono video o immagini realizzati con una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale. È usata per combinare immagini e video esistenti e originali.

Deepfake: cosa sono, come funzionano, come riconoscerli

Con il termine deepfake si intende una tecnica basata sull’intelligenza artificiale che viene utilizzata per la sintesi di immagini umane. Questa sfrutta una tecnologia di apprendimento automatico per combinare e sovrapporre immagini e video esistenti con video o immagini originali. Con deepfake ci si riferisce comunemente anche al prodotto di ciò che si realizza utilizzando questa tecnica.

Recentemente vi è capitato di vedere un personaggio pubblico (un politico, un imprenditore particolarmente esposto all’attenzione dei media) dire qualcosa di compromettente? È possibile, se non addirittura probabile, che ciò che avete visto sia un prodotto realizzato con la tecnica del deepfake, fatto per screditare quella persona agli occhi dell’opinione pubblica.

Il termine deepfake trae la sua origine dalla tecnologia chiamata «deep learning», una forma di intelligenza artificiale. Grazie ad essa è possibile realizzare false immagini e falsi video, ma può essere anche utilizzata per costruire e avvalorare fake news e compiere atti di cyber bullismo o revenge porn.

Deepfake: come funziona

Una dei metodi più utilizzati per per realizzare un deepfake è sfruttando un autoencoder, ossia un un programma di intelligenza artificiale che studia un video per capire come appare una persona da diverse angolazioni e condizioni spaziali, per poi mapparla sull’individuo nel video di destinazione trovando caratteristiche comuni.

Per sfruttare questa tecnica è prima necessario avere un video di partenza da usare come base del deepfake e poi una raccolta di altri video della persona che si vuole inserire nel target.

Un secondo metodo per realizzare dei deepfake è attraverso un GAN (Generative Adversarial Network). Questo sistema è in grado di rendere un deepfake molto più realistico, in quanto – mediante la costante ricerca di difetti nelle riprese – lo rende sempre più credibile.

La quantità di dati necessaria per generare un deepfake tramite GAN è molto elevata, per cui non tutti possono realizzarne uno utilizzando questo metodo. Per chi ne ha a sufficienza da poter utilizzare il metodo GAN è necessario sapere che maggiori saranno i dati immessi nel sistema, maggiore sarà la qualità del contenuto generato.

Deepfake: come vengono creati

Per realizzare questi video Deepfake molte persone scaricano delle app da Github, un portale open source su cui è possibile trovarne alcune. Tra quelle disponibili ci sono Deepface Lab o Face Swap; mentre online esistono siti web come deepfakesweb.com e yepic.ai, che sono molto usati per creare deepfake.

Attualmente creare un deepfake non è considerato illegale, nonostante uno ben realizzato possa rovinare la reputazione di una persona. Inoltre, ciò che preoccupa è che - probabilmente - con il progressivo sviluppo della tecnologia anche i deepfake diventeranno sempre più difficili da riconoscere.

Come riconoscere un deepfake

Non esistono delle regole univoche per riconoscere un video realizzato usando la tecnica del deepfake, soprattutto perché la loro qualità dei contenuti è cresciuta nel corso degli anni.

In passato i video deepfake erano riconoscibili poiché erano di bassa qualità e contenevano dei palesi errori di montaggio, rintracciabili ad esempio dal movimento delle palpebre innaturale, dalla pessima qualità dell’audio, oppure dalle luci, spesso troppo alte o troppo basse.

Grazie ai feedback degli utenti, le app per realizzare i deepfake vengono aggiornate periodicamente, il che le rende più precise e performanti. Come risultato, distinguere un contenuto falso da uno originale diventa più difficile.

Deepfake e fake news: cosa ci aspetta in futuro

Il mercato dell’intelligenza artificiale è in grande evoluzione, stanno infatti nascendo nuovi software che permettono di creare contenuti basati sulle conoscenze di avanzati algoritmi.

Tra quelli nati di recente c’è Dall-E 2, un programma disponibile sul web in grado di generare delle immagini da zero oppure di modificarle. In particolare, con Dall-E 2, è possibile alterare immagini esistenti a piacimento, seppure talvolta il risultato possa non essere all’altezza delle aspettative.

Questa possibilità apre a dei nuovi interrogativi che è impossibile non porsi: strumenti come Dall-E 2 sono a disposizione di chiunque abbia una connessione internet, ciò implica che tutti possono utilizzarla per realizzare delle immagini false che, insieme ai deepfake possono contribuire a rovinare la reputazione di una persona.

Iscriviti a Money.it