video deepfake

Deepfake, cos'è, tecnologia, esempi, pericoli

I deepfake sono l’aspetto più distopico e preoccupante della tecnologia oggi a disposizione, che a breve potrebbe rivoltarsi contro milioni di persone che, inconsapevolmente, stanno aiutando chi domani potrebbe metterli in enorme difficoltà
Deepfake, cos'è, tecnologia, esempi, pericoli FASTWEB S.p.A.

Da alcuni anni si sente sempre più spesso la parola "deepfake", nata nel 2017 su Reddit e ben presto arrivata sulla stampa internazionale grazie ad un articolo di Samantha Cole su Vice. Sin dall'inizio la parola deepfake è stata associata ad un grande pericolo, a qualcosa di estremamente negativo, ma mentre all'inizio il pericolo sembrava riguardare solo VIP e politici di livello globale, ultimamente non è più così: i deepfake sono un pericolo per tutti.

Ma cosa sono, esattamente, i deepfake e perché oggi sono diventati un rischio anche per le persone comuni? E, soprattutto, è possibile mitigare questo rischio, o siamo destinati a vivere in un mondo in cui i deepfake diventeranno la normalità quotidiana?

Deepfake: cosa vuol dire

deepfake cosa vuol dire

Partiamo dalle basi, dalla definizione di Deepfake: con questo termine si intendono dei video falsi (a volte anche solo degli audio) in cui una persona fa e/o dice cose che non ha mai fatto e/o non ha mai detto. 

Per realizzarli si usano sofisticate tecniche informatiche, basate sugli algoritmi di intelligenza artificiale (e, in particolare, di deep learning, da cui deriva il nome deepfake), grazie alle quali è possibile sovrapporre in un video il volto di una persona ad un corpo che non è il suo e fare in modo che, nel video, sembri che quella persona dica quello che i creatori del deepfake vogliono.

 

L'esempio classico, il più famoso, di deepfake è quello del video in cui Barack Obama pronuncia un discorso in cui mette in guardia il mondo dai pericoli delle fake news e della disinformazione.

Un discorso mai fatto da Obama, in un video mai girato da Obama: i creatori del video hanno infatti preso un video ufficiale dell'allora presidente degli Stati Uniti e vi hanno aggiunto un volto elaborato al computer, partendo dalle espressioni facciali dell'attore e regista americano Jordan Peele, che si è prestato all'esperimento.

Questo è il caso più famoso di deepfake, quello che ha reso noto il fenomeno a livello globale, ma si tratta di un video di aprile 2018 mentre già l'anno prima giravano su Internet decine di video deepfake meno raffinati ma persino più inquietanti: i volti di attori e attrici famosi "montati" in scene di film pornografici, con un effetto finale assolutamente realistico. 

Più goliardici, ma non meno raffinati, i video in cui il volto dell'attore Nicolas Cage veniva inserito in scene di film che non ha mai girato: da Indiana Jones a 007.

Deepfake: tra scienza, goliardia e crimine

deepfake

Esistono, oggi, quattro filoni principali nell'universo deepfake: quello accademico di chi crea questi video per studiare il fenomeno, quello goliardico di chi li crea per divertimento e per "allenare" le proprie capacità, quello criminale vero e proprio, di chi usa i deepfake per scopi illeciti, e infine quello giornalistico, cioè l'uso dei deepfake da parte dei media per mettere il mondo al corrente dei pericoli dei deepfake stessi.

Un esempio di deepfake accademico è "Synthesizing Obama", del 2017: i ricercatori dell'Università di Washington hanno preso una clip audio di un discorso di Obama e sono riusciti a creare diversi video diversi, in cui il presidente americano pronunciava le stesse parole con un perfetto sincronismo tra audio e video.   

Per farlo hanno usato una rete neurale ricorrente artificiale, cioè una serie di algoritmi che imitano il funzionamento dei neuroni del cervello per migliorare, passaggio dopo passaggio, il risultato ottenuto: "Data la forma della bocca in ogni istante - spiegano i ricercatori di "Synthesizing Obama" - sintetizziamo la trama della bocca di alta qualità e la incrociamo con la corretta corrispondenza della posa 3D per modificare ciò che sembra dire in un video di destinazione, in modo che corrisponda alla traccia audio in ingresso. Il nostro approccio produce risultati fotorealistici".

 

Un esempio dei deepfake goliardici e "amatoriali", invece, sono i già citati video di Nicolas Cage che recita in film diversi. In questo caso si tratta di esperimenti fatti di solito da giovani programmatori, che fanno esperimenti per affinare le proprie capacità.

Poi ci sono i deepfake criminali, come i montaggi pornografici (che ovviamente non vi mostreremo) delle star di Hollywood su scene per adulti. In questo caso il fine dei video è spesso l'estorsione: si chiede al VIP di pagare affinché il video non venga diffuso in rete.

 

Infine, ci sono i deepfake realizzati dalla stampa, per alzare l'attenzione del loro pubblico su questo tema. Un ottimo esempio è il finto messaggio di Natale mandato in onda dall'emittente britannica Channel 4: un video in cui una finta regina Elisabetta II parlava ai sudditi dicendo cose ai limiti dell'incredibile e facendo balletti per TikTok.

Alla fine di questo video l'emittente ha deciso di inserire anche parte del "dietro le quinte", per far capire ai suoi spettatori come si creano i deepfake.

I pericoli dei deepfake

pericoli deepfake

Barak Obama, Nicolas Cage, la regina Elisabetta sono tutti personaggi famosi nel mondo e credibili: un deepfake criminale realizzato contro di loro ha ben poca efficacia, perché la credibilità di queste persone è superiore alla potenza degli algoritmi di deep learning e delle reti neurali. 

Ma non si può dire lo stesso se i protagonisti (inconsapevoli) dei video fake sono persone comuni e non VIP o i potenti della Terra. Se Mario Rossi diventa protagonista di un video deepfake in cui pronuncia parole volgari, si dichiara colpevole di un crimine, prende di mira altre persone insultandole, e questo video viene diffuso sui social, allora Mario Rossi ha un enorme problema: spetterà a lui dimostrare che il video è falso, perché non tutti gli crederanno.

Ci si potrà chiedere, a questo punto: perché qualcuno dovrebbe spendere un sacco di soldi per creare un video deepfake contro Mario Rossi? La risposta è, purtroppo, che non servono più un sacco di soldi per creare un video del genere: la tecnologia ha fatto passi da gigante, esistono già decine di app per creare video fake amatoriali e sono persino gratuite.

Certamente i video creati con queste app sono molto meno raffinati e credibili di quelli realizzati dalla Washington University o da Channel 4, ma basta una via di mezzo tra le tecnologie amatoriali e quelle professionali per ottenere un risultato credibile. E quindi pericoloso. Come difendersi?

Comprendendo come funzionano gli algoritmi di intelligenza artificiale e di deep learning, sui quali si basano le reti neurali che creano i deepfake. Affinché l'algoritmo funzioni, infatti, è necessario che sia addestrato, facendogli processare materiale audio e video raffigurante il soggetto che dovrà essere il protagonista inconsapevole del video fake. Più materiale di questo tipo è disponibile, migliore sarà il risultato finale. 

I social, da questo punto di vista, sono una fonte eccezionale di materiale gratuito e di discreta qualità per allenare gli algoritmi. In particolare i video in stile TikTok, in cui milioni di persone cantano tutte la stessa canzone, facendo tutte gli stessi gesti.

Non c'è niente di meglio che un archivio audio/video già standardizzato e categorizzato per fare deep learning su vasta scala: milioni di persone nel mondo, in questi anni, stanno mettendo a disposizione di chi vuole creare un deepfake il loro volto mentre pronuncia le parole dei ritornelli di Levitating di Dua Lipa, Gimme More di Britney Spears, Up di Cardi B, Peaches di Justin Bieber.

Copyright CULTUR-E
Condividi
Ebook
Sicurezza in Rete: ne sai abbastanza?
Strumenti utili, suggerimenti pratici e tutto quello che devi assolutamente sapere per proteggere davvero i tuoi dispositivi e i tuoi dati personali quando sei connesso
scarica l'ebook

Iscriviti alla
newsletter del
Digital Magazine di
Fastweb

Riceverai ogni settimana le notizie più interessanti sul mondo della tecnologia!
Iscriviti

Grazie per esserti iscritto!

Abbiamo inviato una mail all'indirizzo che hai indicato: per completare l'iscrizione alla newsletter del Digital Magazine di FASTWEB clicca sul link all'interno della mail