Microsoft Video Authenticator: ferramenta para ajudar a identificar deepfake e prevenir informações falsas

A Microsoft acaba de lançar uma nova tecnologia chamada Microsoft Video Authenticator, projetada para ajudar a combater fraudes, usando informações, imagens e até vídeos falsos (técnica deepfake ) para espalhar informações e desinformação, especialmente à luz das próximas eleições presidenciais nos Estados Unidos.

Deepfake e problemas existentes

Deepfake (uma mala de viagem de “aprendizado profundo” e “falso”) é uma técnica de síntese de imagem humana baseada em inteligência artificial (IA). Ele é usado para combinar e sobrepor outras imagens e vídeos em imagens ou vídeos de origem usando uma técnica de aprendizado de máquina chamada Rede Adversarial Generativa.). Em termos mais simples, deepfake é um programa que utiliza inteligência artificial, permitindo aos usuários trocar o rosto de alguém em um vídeo (e até imagens) pelo rosto de outra pessoa.

Devido a essas capacidades, o deepfake é frequentemente usado por bandidos para criar notícias falsas e golpes para difamar e afetar a reputação de indivíduos, organizações, especialmente celebridades. Isto não só prejudica a honra e a dignidade da pessoa que está sendo forjada, mas também provoca agitação na opinião pública e causa muitas controvérsias ou conflitos ainda piores.

Analisando vídeos deepfake

Autenticador de vídeo da Microsoft

A forma como o Microsoft Video Authenticator funciona basicamente não é nada complicada, ele usa um algoritmo para analisar imagens estáticas ou vídeos em um nível de pixel invisível a olho nu, para dar uma porcentagem de associação de chance ou pontuação de confiança, indicando a probabilidade de isso acontecer. é que a imagem ou vídeo foi adulterado por deepfake. Especialmente para vídeos, a ferramenta pode fornecer pontuações de avaliação em tempo real em cada quadro para fornecer resultados mais precisos.

Esta tecnologia foi desenvolvida pela equipe de Pesquisa da Microsoft em colaboração com o comitê de IA, Ética e Efeitos em Engenharia e Pesquisa da Microsoft. Numa fase inicial, não será divulgado diretamente ao público, mas apenas aplicado experimentalmente em determinadas agências e organizações. A Microsoft está atualmente em parceria com a AI Foundation, uma empresa comercial e sem fins lucrativos com sede em São Francisco, para implantar testes do Microsoft Video Authenticator em diversas plataformas de notícias e campanhas políticas.

No entanto, uma limitação desta tecnologia é que corre o risco de se tornar rapidamente obsoleta, uma vez que a tecnologia deepfake continuará a crescer em sofisticação. A Microsoft anunciou um sistema separado que permitirá aos produtores de conteúdo adicionar código oculto às suas filmagens para que qualquer adulteração possa ser sinalizada, e está intensificando parcerias com uma série de empresas de mídia, como BBC, CBC/Radio-Canada, New York Times. .. para testar a tecnologia e torná-la o padrão.

• Este aplicativo perigoso pode “penetrar” nas roupas femininas em apenas alguns segundos graças à tecnologia deepfake