Microsoft Video Authenticator: herramienta para ayudar a identificar deepfake y prevenir información falsa

Microsoft acaba de lanzar una nueva tecnología llamada Microsoft Video Authenticator, diseñada para ayudar a combatir el fraude, utilizando información, imágenes e incluso vídeos falsos (técnica deepfake ) para difundir información desinformación, especialmente a la luz de las próximas elecciones presidenciales en Estados Unidos.

Deepfake y problemas existentes

Deepfake (un acrónimo de “aprendizaje profundo” y “falso”) es una técnica de síntesis de imágenes humanas basada en inteligencia artificial (IA). Se utiliza para combinar y superponer otras imágenes y videos en imágenes o videos de origen utilizando una técnica de aprendizaje automático llamada Generative Adversarial Network. En términos más simples, deepfake es un programa que utiliza inteligencia artificial y permite a los usuarios intercambiar la cara de alguien en un vídeo (e incluso imágenes) con la cara de otra persona.

Debido a estas capacidades, los malos suelen utilizar el deepfake para crear noticias falsas y estafas para difamar y afectar la reputación de personas, organizaciones y especialmente celebridades. Esto no sólo daña el honor y la dignidad de la persona que se está forjando, sino que también provoca que la opinión pública se agite y provoque muchas controversias o conflictos aún peores.

Analizando vídeos deepfake

Autenticador de vídeo de Microsoft

La forma en que funciona Microsoft Video Authenticator básicamente no es nada complicada: utiliza un algoritmo para analizar imágenes fijas o videos a un nivel de píxeles que es invisible a simple vista, para dar un porcentaje de la probabilidad de asociación o puntuación de confianza, indicando la probabilidad de que ocurra. es que la imagen o el vídeo está manipulado por deepfake. Especialmente para videos, la herramienta puede proporcionar puntuaciones de evaluación en tiempo real en cada cuadro para brindar los resultados más precisos.

Esta tecnología fue desarrollada por el equipo de investigación de Microsoft en colaboración con el comité de IA, Ética y Efectos en Ingeniería e Investigación de Microsoft. En la etapa inicial, no se dará a conocer directamente al público, sino que sólo se aplicará de forma experimental en determinadas agencias y organizaciones. Actualmente, Microsoft se está asociando con AI Foundation, una empresa comercial y sin fines de lucro con sede en San Francisco, para implementar pruebas de Microsoft Video Authenticator en varias plataformas de noticias y campañas políticas.

Sin embargo, una limitación de esta tecnología es que corre el riesgo de volverse obsoleta rápidamente a medida que la tecnología deepfake siga ganando sofisticación. Microsoft ha anunciado un sistema separado que permitirá a los productores de contenido agregar código oculto a sus imágenes para que se pueda detectar cualquier manipulación, y está intensificando sus asociaciones con una variedad de compañías de medios, como BBC, CBC/Radio-Canada, New York Times. .. para probar la tecnología y convertirla en el estándar.

• Esta peligrosa aplicación puede "penetrar" la ropa de mujer en apenas unos segundos gracias a la tecnología deepfake