Microsoft Video Authenticator: narzędzie pomagające identyfikować deepfake i zapobiegać fałszywym informacjom

Microsoft właśnie wypuścił nową technologię o nazwie Microsoft Video Authenticator, mającą pomóc w walce z oszustwami, wykorzystującymi fałszywe informacje, obrazy, a nawet filmy (technika deepfake ) do rozpowszechniania informacji i dezinformacji, szczególnie w świetle zbliżających się wyborów prezydenckich w Stanach Zjednoczonych.

Deepfake i istniejące problemy

Deepfake (połączenie słów „głębokie uczenie” i „fałszywość”) to technika syntezy obrazu człowieka oparta na sztucznej inteligencji (AI). Służy do łączenia i nakładania innych obrazów i filmów na obrazy źródłowe lub filmy przy użyciu techniki uczenia maszynowego zwanej Generative Adversarial Network. ). Mówiąc prościej, deepfake to program wykorzystujący sztuczną inteligencję, umożliwiający użytkownikom zamianę czyjejś twarzy w filmie (a nawet obrazach) na twarz innej osoby.

Ze względu na te możliwości deepfake jest często wykorzystywany przez przestępców do tworzenia fałszywych wiadomości i oszustw mających na celu zniesławienie i wpłynięcie na reputację osób, organizacji, zwłaszcza celebrytów. To nie tylko godzi w honor i godność fałszowanej osoby, ale także powoduje poruszenie opinii publicznej i powoduje wiele kontrowersji, a nawet gorszych konfliktów.

Analizowanie filmów typu deepfake

Microsoft Video Authenticator

Sposób działania Microsoft Video Authenticator w zasadzie nie jest skomplikowany, wykorzystuje algorytm do analizy nieruchomych obrazów lub filmów na poziomie pikseli niewidocznych gołym okiem, aby określić procent szansy na powiązanie lub wynik zaufania, wskazując, jak prawdopodobne jest to polega na tym, że obraz lub film został zmanipulowany przez deepfake. Szczególnie w przypadku filmów narzędzie może zapewnić ocenę każdej klatki w czasie rzeczywistym, co zapewnia najdokładniejsze wyniki.

Technologia ta została opracowana przez zespół badawczy firmy Microsoft we współpracy z komisją Microsoft ds. sztucznej inteligencji, etyki i efektów w inżynierii i badaniach. Na początkowym etapie nie zostanie on udostępniony bezpośrednio opinii publicznej, lecz będzie zastosowany jedynie eksperymentalnie w niektórych agencjach i organizacjach. Firma Microsoft współpracuje obecnie z AI Foundation, komercyjnym przedsiębiorstwem non-profit z siedzibą w San Francisco, w celu wdrożenia testów Microsoft Video Authenticator na wielu platformach informacyjnych i w kampaniach politycznych.

Jednak ograniczeniem tej technologii jest to, że istnieje ryzyko szybkiego stania się przestarzałego w miarę ciągłego wzrostu poziomu zaawansowania technologii deepfake. Firma Microsoft ogłosiła osobny system, który umożliwi producentom treści dodawanie ukrytego kodu do swoich materiałów filmowych, aby umożliwić oznaczenie wszelkich manipulacji, a także zacieśnia współpracę z wieloma firmami medialnymi, takimi jak BBC, CBC/Radio-Canada, New York Times. .. przetestować technologię i uczynić ją standardem.

• Ta niebezpieczna aplikacja może „przeniknąć” do kobiecych ubrań w ciągu zaledwie kilku sekund dzięki technologii deepfake