Microsoft heeft zojuist een nieuwe technologie gelanceerd genaamd Microsoft Video Authenticator, ontworpen om fraude te helpen bestrijden, waarbij gebruik wordt gemaakt van valse informatie, afbeeldingen en zelfs video's (deepfake-techniek ) om informatie en desinformatie te verspreiden, vooral in het licht van de komende presidentsverkiezingen in de Verenigde Staten.
Deepfake en bestaande problemen
Deepfake (een samenvoeging van ‘deep learning’ en ‘fake’) is een techniek voor de synthese van menselijke beelden, gebaseerd op kunstmatige intelligentie (AI). Het wordt gebruikt om andere afbeeldingen en video's te combineren en op bronafbeeldingen of -video's te plaatsen met behulp van een machine learning-techniek genaamd Generative Adversarial Network.). In eenvoudiger bewoordingen is deepfake een programma dat gebruik maakt van kunstmatige intelligentie, waardoor gebruikers in een video (en zelfs afbeeldingen) het gezicht van iemand anders kunnen verwisselen met het gezicht van iemand anders.
Vanwege deze mogelijkheden wordt deepfake vaak door slechteriken gebruikt om nepnieuws en oplichting te creëren om de reputatie van individuen, organisaties, vooral beroemdheden, te belasteren en aan te tasten. Dit schaadt niet alleen de eer en waardigheid van de persoon die wordt vervalst, maar zorgt er ook voor dat de publieke opinie in beroering komt en veel controverses of zelfs ergere conflicten veroorzaakt.

Deepfake-video's analyseren
Microsoft Video Authenticator
De manier waarop Microsoft Video Authenticator werkt is in principe niets ingewikkelds, het gebruikt een algoritme om stilstaande beelden of video's te analyseren op een pixelniveau dat onzichtbaar is voor het blote oog, om een percentage van de kans op associatie of vertrouwensscore te geven, wat aangeeft hoe waarschijnlijk het is is dat er met de afbeelding of video is geknoeid door deepfake. Vooral voor video's kan de tool realtime evaluatiescores voor elk frame weergeven om de meest nauwkeurige resultaten te verkrijgen.
Deze technologie is ontwikkeld door het Microsoft Research-team in samenwerking met de Microsoft AI, Ethics and Effects in Engineering and Research-commissie. In de beginfase zal het niet rechtstreeks aan het publiek worden vrijgegeven, maar alleen experimenteel worden toegepast in bepaalde instanties en organisaties. Microsoft werkt momenteel samen met de AI Foundation, een commerciële en non-profit onderneming gevestigd in San Francisco, om Microsoft Video Authenticator-tests in te zetten op een aantal nieuwsplatforms en politieke campagnes.
Een beperking van deze technologie is echter dat deze snel verouderd dreigt te raken, omdat deepfake-technologie steeds geavanceerder zal worden. Microsoft heeft een apart systeem aangekondigd waarmee producenten van inhoud verborgen code aan hun beeldmateriaal kunnen toevoegen, zodat eventuele manipulatie kan worden opgemerkt, en intensiveert de samenwerking met een reeks mediabedrijven, zoals BBC, CBC/Radio-Canada en New York Times. ..technologie testen en er de standaard van maken.
- Deze gevaarlijke toepassing kan dankzij deepfake-technologie in slechts enkele seconden de kleding van vrouwen ‘binnendringen’