I video generati con l’AI invadono YouTube Kids, imitano personaggi noti ai più piccoli e sfuggono ai controlli. Nuovi rischi per la sicurezza digitale dei bambini.
La diffusione di video generati con l’intelligenza artificiale sulle piattaforme dedicate ai più piccoli, YouTube Kids in primis, sta diventando uno dei nodi più discussi nel dibattito sulla sicurezza digitale dei minori.
Clip e animazioni che a prima vista sembrano innocue possono infatti essere prodotte con strumenti di AI generativa capaci di replicare alla perfezione personaggi, voci e codici visivi familiari ai bambini, caratteristiche che rendono sempre più difficile distinguere ciò che è autentico da ciò che non lo è.
È un fenomeno in rapida accelerazione, che interpella genitori, educatori e le stesse piattaforme. Urge un confronto su questa sfida tutta nuova e tutt’altro che semplice da gestire.
I rischi dell’AI generativa per i bambini
Il problema non nasce oggi. Il precedente più noto, il cosiddetto “Elsagate”, aveva già mostrato come video etichettati come adatti ai minori potessero contenere elementi disturbanti o inappropriati.
Il caso, emerso tra il 2016 e il 2018, prende il nome da “Elsa” - la protagonista di Frozen, uno dei personaggi più sfruttati dai video incriminati - e “-gate”, suffisso associato agli scandali. Su YouTube comparivano migliaia di video apparentemente destinati ai bambini, cartoni colorati, titoli innocui, personaggi molto popolari come Elsa, Spiderman, Peppa Pig o i Minions. Ma, una volta aperti, i video mostravano contenuti inappropriati, del tutto inadatti a un pubblico infantile. Senza entrare nei dettagli, si trattava di scene che mescolavano malinconia, violenza, immagini inquietanti o comportamenti che un bambino non avrebbe dovuto imitare. Molti erano girati in modo amatoriale, altri realizzati digitalmente e tutti sfruttavano gli algoritmi della piattaforma, che li suggerivano all’interno di playlist “per bambini” grazie all’uso dei personaggi e delle parole chiave più ricercate.
Con l’arrivo dell’AI generativa, questo rischio si amplifica. La produzione di contenuti sintetici è più rapida, più economica e soprattutto più sofisticata. Secondo un recente rapporto dell’UNICEF, la capacità di creare video realistici con personaggi familiari ai bambini aumenta la loro vulnerabilità, poiché i più piccoli non dispongono ancora delle competenze necessarie per distinguere tra ciò che è reale e ciò che non lo è.
YouTube corre ai ripari. Basterà?
YouTube, come riportato da testate statunitensi qualiCBS News, ha introdotto sistemi basati sull’intelligenza artificiale perstimare l’età degli utenti e limitare l’accesso a contenuti non appropriati.
Ma diversi studi pubblicati su archivi accademici come arXiv indicano che i controlli automatici non sono sufficienti a impedire che i bambini incappino in video che, pur rimanendo entro i limiti delle policy ufficiali, possono risultare emotivamente o cognitivamente dannosi. L’elevata velocità con cui i contenuti generativi vengono prodotti rende più difficile per le piattaforme effettuare un monitoraggio efficace e tempestivo.
La situazione è ulteriormente aggravata dallo sviluppo di strumenti in grado di generare video sempre più realistici. Le nuove applicazioni basate sull’AI generativa consentono di creare clip fotorealistiche in pochi minuti, spesso indistinguibili da quelle prodotte professionalmente. Questo rende i contenuti più credibili agli occhi di un bambino e potenzialmente più persuasivi, soprattutto quando sfruttano codici visivi e narrativi che appartengono all’immaginario infantile.
La supervisione degli adulti al centro
Gli psicologi dell’età evolutiva avvertono che l’esposizione a contenuti generati artificialmente può influenzare la percezione della realtà dei bambini e interferire con il loro sviluppo emotivo. In assenza di una supervisione adeguata, un contenuto creato dall’AI può trasmettere messaggi confusi e mostrare situazioni inappropriate senza che il bambino sia in grado di riconoscerne la natura artificiale.
Per questo motivo il ruolo dei genitori e degli educatori rimane fondamentale. Il consiglio è quello di guardare i video insieme ai minori, discutere con loro ciò che vedono nonché verificare periodicamente le impostazioni delle piattaforme. Tutto per limitare i rischi.
© RIPRODUZIONE RISERVATA
