Microsoft Video Authenticator: инструмент, помогающий выявить дипфейк и предотвратить ложную информацию.

Microsoft только что запустила новую технологию под названием Microsoft Video Authenticator, призванную помочь в борьбе с мошенничеством, использующим фейковую информацию, изображения и даже видео (техника deepfake ) для распространения дезинформации, особенно в свете предстоящих президентских выборов в США.

Дипфейк и существующие проблемы

Deepfake (сочетание слов «глубокое обучение» и «фейк») — это метод синтеза изображений человека, основанный на искусственном интеллекте (ИИ). Он используется для объединения и наложения других изображений и видео на исходные изображения или видео с использованием метода машинного обучения, называемого генеративно-состязательной сетью.). Проще говоря, deepfake — это программа, использующая искусственный интеллект, позволяющая пользователям заменять чье-то лицо в видео (и даже изображения) на чужое лицо.

Из-за этих возможностей дипфейк часто используется злоумышленниками для создания фейковых новостей и мошенничества с целью опорочить и повлиять на репутацию отдельных лиц, организаций, особенно знаменитостей. Это не только наносит ущерб чести и достоинству подделываемого человека, но и вызывает возмущение общественного мнения и вызывает множество споров или еще хуже конфликтов.

Анализ дипфейковых видео

Видеоаутентификатор Microsoft

В принципе, в работе Microsoft Video Authenticator нет ничего сложного: он использует алгоритм для анализа неподвижных изображений или видео на уровне пикселей, невидимом невооруженным глазом, чтобы определить процент вероятности ассоциации или оценку доверия, указывая, насколько вероятно это. заключается в том, что изображение или видео подделаны с помощью дипфейка. Специально для видео инструмент может предоставлять оценки оценки в реальном времени для каждого кадра, чтобы обеспечить наиболее точные результаты.

Эта технология была разработана исследовательской группой Microsoft в сотрудничестве с комитетом Microsoft по искусственному интеллекту, этике и воздействию в инженерии и исследованиях. На начальном этапе он не будет обнародован напрямую, а будет применяться лишь экспериментально в отдельных ведомствах и организациях. В настоящее время Microsoft сотрудничает с AI Foundation, коммерческим и некоммерческим предприятием, базирующимся в Сан-Франциско, для внедрения тестирования Microsoft Video Authenticator на ряде новостных платформ и политических кампаний.

Однако ограничением этой технологии является то, что она рискует быстро устареть, поскольку технология дипфейков будет продолжать усложняться. Microsoft анонсировала отдельную систему, которая позволит производителям контента добавлять к своим материалам скрытый код, чтобы можно было обнаружить любое вмешательство, и расширяет партнерские отношения с рядом медиа-компаний, таких как BBC, CBC/Radio-Canada, New York Times. ... чтобы протестировать технологию и сделать ее стандартом.

• Это опасное приложение способно «проникнуть» в женскую одежду всего за несколько секунд благодаря технологии deepfake.