deepfake

Video Authenticator, la battaglia di Microsoft contro i deepfake

Microsoft lancia un deepfake detector, uno strumento che risulterÓ utilissimo in questo periodo di campagna elettorale in USA
Video Authenticator, la battaglia di Microsoft contro i deepfake FASTWEB S.p.A.

Microsoft ha aggiunto alla sua line up di tecnologie volte ad individuare i media sintetici (ovvero i deepfake), uno strumento per analizzare video e foto per generarne un punteggio in base al grado di manipolazione. Lo strumento, chiamato Video Authenticator, fornisce ciò che Microsoft chiama "una probabilità percentuale, o punteggio di affidabilità", che il supporto sia stato manipolato artificialmente.

"Nel caso di un video, il sistema può fornire questa percentuale in tempo reale su ogni fotogramma durante la riproduzione", scrive la società in un post. "Funziona rilevando il confine di fusione degli elementi deepfake e le sottili dissolvenze o le scale di grigi che potrebbero non essere rilevabili dall'occhio umano." Se un contenuto online sembra reale ma "puzza di fake", è probabile che si tratti di una manipolazione high tech che cerca di passare per reale, forse con l'intento dannoso di disinformare il pubblico. E sebbene molti deepfake siano creati con un intento molto diverso - essere divertenti, ad esempio - estrapolati dal contesto, tali media sintetici possono ancora assumere una vita propria mentre si diffondono, il che significa che possono anche finire per ingannare gli spettatori ignari.

Mentre la tecnologia AI viene utilizzata per generare deepfake realistici, identificare la disinformazione visiva utilizzando la stessa tecnologia è ancora un problema difficile, così una mente che pensa in modo critico rimane lo strumento migliore per individuare gli inganni.

Sebbene il post sul blog avverta che la tecnologia può offrire solo uno strumento passeggero nella corsa agli armamenti della disinformazione alimentata dall'intelligenza artificiale: "Il fatto che i deepfake siano generati dall'intelligenza artificiale, è inevitabile che questa batterà la tecnologia di rilevamento convenzionale. Tuttavia, nel breve periodo, come le imminenti elezioni statunitensi, le tecnologie di rilevamento avanzate possono essere uno strumento utile per aiutare gli utenti più esigenti a identificare i deepfake".

Quest'estate una competizione avviata da Facebook per sviluppare un rilevatore di deepfake ha fornito risultati migliori di quanto si possa immaginare, ma solo nel caso di un set di dati a cui i ricercatori non avevano avuto accesso in precedenza. Microsoft, nel frattempo, afferma che il suo strumento di autenticazione video è stato creato utilizzando un set di dati pubblico di Face Forensic ++ ed è stato testato sul set di dati DeepFake Detection Challenge che, osserva, sono "entrambi i modelli leader per la formazione e il test delle tecnologie di rilevamento deepfake".

La società sta collaborando con la AI Foundation con sede a San Francisco per rendere lo strumento disponibile alle organizzazioni coinvolte nel processo democratico quest'anno, compresi i notiziari e le campagne politiche. "Video Authenticator sarà inizialmente disponibile solo tramite RD2020 [Reality Defender 2020], che guiderà le organizzazioni attraverso i limiti e le considerazioni etiche inerenti a qualsiasi tecnologia di rilevamento deepfake. Le campagne e i giornalisti interessati a saperne di più possono contattare RD2020", aggiunge Microsoft.

Lo strumento è stato sviluppato dalla divisione R&D, Microsoft Research, in coordinamento con il team Responsible AI e un organo consultivo interno su AI, Ethics and Effects in Engineering and Research Committee - come parte di un programma più ampio che Microsoft sta conducendo per difendere la democrazia dalle minacce poste dalla disinformazione. "Ci aspettiamo che i metodi per generare media sintetici continueranno a crescere in sofisticazione", continua. "Poiché tutti i metodi di rilevamento dell'IA hanno tassi di fallimento, dobbiamo capire ed essere pronti a rispondere ai deepfake che sfuggono ai metodi di rilevamento. Pertanto, a lungo termine, dobbiamo cercare metodi più forti per mantenere e certificare l'autenticità degli articoli di notizie e di altri media. Ci sono pochi strumenti oggi per assicurare ai lettori che i media che stanno vedendo online provengono da una fonte attendibile e che non sono stati alterati".

Su quest'ultimo fronte, Microsoft ha anche annunciato un sistema che consentirà ai produttori di contenuti di aggiungere firme digitali e certificati ai media che rimangono nei loro metadati mentre il contenuto viaggia online, fornendo un punto di riferimento per l'autenticità. Il secondo componente del sistema è uno strumento di lettura, che può essere distribuito come estensione del browser, per il controllo dei certificati e la corrispondenza degli hash, per offrire allo spettatore quello che Microsoft chiama "un alto grado di accuratezza", ovvero se un particolare contenuto è autentico oppure se è stato modificato. La certificazione fornirà anche allo spettatore dettagli su chi ha prodotto i media.

Microsoft spera che questo sistema di autenticità del watermark digitale finisca per sostenere la Trusted News Initiative annunciata lo scorso anno dall'emittente britannica BBC, in particolare per un componente di verifica, chiamato Project Origin, che è guidato da una coalizione della BBC, CBC / Radio-Canada, Microsoft e The New York Times. Pare che la tecnologia di watermarking digitale sarà testata da Project Origin con l'obiettivo di svilupparla in uno standard che possa essere adottato ampiamente.

"Anche la Trusted News Initiative, che comprende una serie di editori e società di social media, ha accettato di impegnarsi con questa tecnologia. Nei mesi a venire, speriamo di estendere il lavoro in questo settore a un numero ancora maggiore di aziende tecnologiche, editori di notizie e società di social media", aggiunge Microsoft.

Mentre il lavoro sulle tecnologie per identificare i deepfake continua, il post sul blog di Microsoft sottolinea anche l'importanza dell'alfabetizzazione mediatica, segnalando una partnership con l'Università di Washington, Sensity e USA Today che mira a stimolare il pensiero critico in vista delle elezioni statunitensi. Questa partnership ha lanciato un quiz "Scova il Deepfake" destinato agli elettori negli Stati Uniti per "conoscere i media sintetici, sviluppare capacità di alfabetizzazione mediatica critiche e acquisire consapevolezza dell'impatto dei media sintetici sulla democrazia".

Il quiz interattivo sarà distribuito tra le proprietà web e social media di proprietà di USA Today, Microsoft e l'Università di Washington e attraverso la pubblicità sui social media.

Il gigante della tecnologia osserva inoltre di essere impegnato nel sostenere una campagna di annunci di servizio pubblico (PSA) negli Stati Uniti che incoraggia le persone a fare una "pausa riflessiva" e controllare per assicurarsi che le informazioni provengano da un'organizzazione giornalistica rispettabile, prima di condividerle o promuoverle sui social media in vista delle prossime elezioni. "La campagna PSA aiuterà le persone a comprendere meglio il danno che la disinformazione ha sulla nostra democrazia e l'importanza di dedicare del tempo a identificare, condividere e consumare informazioni affidabili. Gli annunci verranno pubblicati su stazioni radio negli Stati Uniti a settembre e ottobre", aggiunge.

 

Fonte: techcrunch.com
Condividi
Ebook
Sicurezza in Rete: ne sai abbastanza?
Strumenti utili, suggerimenti pratici e tutto quello che devi assolutamente sapere per proteggere davvero i tuoi dispositivi e i tuoi dati personali quando sei connesso
scarica l'ebook
ChiudiChiudi Questo sito usa cookies di profilazione, propri e di terzi, per adeguare la pubblicità alle tue preferenze.
Clicca qui per maggiori informazioni o per conoscere come negare il consenso. Se chiudi questo banner o accedi ad altri elementi della pagina acconsenti all'uso dei cookies.

Iscriviti alla
newsletter del
Digital Magazine di
Fastweb

Riceverai ogni settimana le notizie più interessanti sul mondo della tecnologia!
Iscriviti

Grazie per esserti iscritto!

Abbiamo inviato una mail all'indirizzo che hai indicato: per completare l'iscrizione alla newsletter del Digital Magazine di FASTWEB clicca sul link all'interno della mail