Microsoft Video Authenticator: strumento per aiutare a identificare i deepfake e prevenire false informazioni

Microsoft ha appena lanciato una nuova tecnologia chiamata Microsoft Video Authenticator, progettata per aiutare a combattere le frodi, utilizzando informazioni, immagini e persino video falsi (tecnica del deepfake ) per diffondere disinformazione, soprattutto alla luce delle imminenti elezioni presidenziali negli Stati Uniti.

Deepfake e problemi esistenti

Deepfake (una combinazione di “deep learning” e “fake”) è una tecnica di sintesi dell’immagine umana basata sull’intelligenza artificiale (AI). Viene utilizzato per combinare e sovrapporre altre immagini e video su immagini o video sorgente utilizzando una tecnica di apprendimento automatico chiamata Generative Adversarial Network. In termini più semplici, deepfake è un programma che utilizza l'intelligenza artificiale, consentendo agli utenti di scambiare il volto di qualcuno in un video (e anche in immagini) con il volto di qualcun altro.

A causa di queste capacità, il deepfake viene spesso utilizzato dai malintenzionati per creare notizie false e truffe per diffamare e influenzare la reputazione di individui, organizzazioni, in particolare celebrità. Ciò non solo lede l'onore e la dignità della persona che viene forgiata, ma provoca anche agitazioni nell'opinione pubblica e cause non poche polemiche o ancor peggio conflitti.

Analisi dei video deepfake

Autenticatore video Microsoft

Il modo in cui funziona Microsoft Video Authenticator non è sostanzialmente complicato, utilizza un algoritmo per analizzare immagini fisse o video a livello di pixel invisibili ad occhio nudo, per fornire una percentuale della possibilità di associazione o punteggio di fiducia, indicando quanto è probabile che ciò accada. è che l'immagine o il video sono stati manomessi dal deepfake. Soprattutto per i video, lo strumento può fornire punteggi di valutazione in tempo reale su ciascun fotogramma per fornire i risultati più accurati.

Questa tecnologia è stata sviluppata dal team di Microsoft Research in collaborazione con il comitato Microsoft AI, Ethics and Effects in Engineering and Research. Nella fase iniziale non sarà reso pubblico direttamente, ma sarà applicato solo in via sperimentale in alcune agenzie e organizzazioni. Microsoft sta attualmente collaborando con la AI Foundation, un'impresa commerciale e senza scopo di lucro con sede a San Francisco, per implementare i test di Microsoft Video Authenticator su una serie di piattaforme di notizie e campagne politiche.

Tuttavia, un limite di questa tecnologia è che rischia di diventare rapidamente obsoleta poiché la tecnologia deepfake continuerà a diventare sempre più sofisticata. Microsoft ha annunciato un sistema separato che consentirà ai produttori di contenuti di aggiungere codice nascosto ai propri filmati in modo che qualsiasi manomissione possa essere segnalata, e sta intensificando le partnership con una serie di società di media come BBC, CBC/Radio-Canada, New York Times. ..per testare la tecnologia e renderla lo standard.

• Questa pericolosa applicazione è in grado di "penetrare" negli abiti femminili in pochi secondi grazie alla tecnologia deepfake