Deepfake

Un nuovo tool per smascherare i deepfake

Un team di scienziati ha escogitato un sistema per riconoscere i deepfake: il segreto è negli occhi!
Un nuovo tool per smascherare i deepfake FASTWEB S.p.A.

Grazie ad un nuovo strumento ad intelligenza artificiale creato dagli scienziati informatici dell'Università di Buffalo, ora possiamo individuare i deepfake con una precisione del 94%. Questo tool funziona analizzando i modelli di riflessione della luce presenti su ciascuna delle cornee della persona fotografata, che dovrebbero essere uguali, non differenti.

Le cornee hanno una superficie simile a uno specchio, e questa dovrebbe mostrare un riflesso simile su entrambi gli occhi, causato dall'illuminazione della stanza o dell'area in cui si trova il soggetto.

Nelle foto reali, gli occhi avranno sempre un modello di riflessione identico. Le immagini deepfake, invece, create da reti antagoniste generative (GAN), di solito non riescono a sintetizzare accuratamente questa somiglianza e generano riflessi unici e incoerenti su ciascuna cornea, a volte anche con posizioni non corrispondenti.

Lo strumento AI, quindi, mappa il viso, scansiona gli occhi e analizza il riflesso in ciascun occhio. Genera, poi, un punteggio metrico di somiglianza che determina la probabilità che l'immagine sia un deepfake. Più basso è il punteggio, maggiore è la possibilità che un'immagine sia falsa. Lo strumento si è rivelato efficace durante la scansione di deepfake su ThisPersonDoesNotExist, il sito web pieno di immagini di persone inesistenti, che utilizza l'architettura StyleGAN2.

Tuttavia, gli scienziati che hanno creato questo strumento hanno notato alcuni limiti, il principale dei quali è che si basa sulla presenza di una sorgente di luce riflessa visibile in entrambi gli occhi. Se qualcuno fa l'occhiolino o sbatte le palpebre, probabilmente non funzionerà; idem se il soggetto è parzialmente girato e non guarda direttamente in camera, poiché si è dimostrato efficace solo nelle immagini a ritratto. Inoltre, chiunque sia abbastanza esperto con Photoshop potrebbe essere in grado di modificare queste incongruenze, il che probabilmente renderebbe inutile lo strumento.

Nonostante queste limitazioni, questo tool segna ancora un grande passo avanti per questo tipo di tecnologia. Non combatterà i deepfake più sofisticati, ma può individuare quelli più semplici e gettare le basi per una tecnologia di rilevamento più potente in futuro da affiancare alle nostre attuali capacità di rilevare deepfake audio e video.
 

Fonte: reviewgeek.com
Condividi
Ebook
Sicurezza in Rete: ne sai abbastanza?
Strumenti utili, suggerimenti pratici e tutto quello che devi assolutamente sapere per proteggere davvero i tuoi dispositivi e i tuoi dati personali quando sei connesso
scarica l'ebook

Iscriviti alla
newsletter del
Digital Magazine di
Fastweb

Riceverai ogni settimana le notizie più interessanti sul mondo della tecnologia!
Iscriviti

Grazie per esserti iscritto!

Abbiamo inviato una mail all'indirizzo che hai indicato: per completare l'iscrizione alla newsletter del Digital Magazine di FASTWEB clicca sul link all'interno della mail