Microsoft Video Authenticator: 딥페이크를 식별하고 허위 정보를 방지하는 데 도움이 되는 도구

Microsoft 는 특히 다가오는 미국 대통령 선거를 고려하여 가짜 정보, 이미지, 심지어 비디오(딥페이크 기술 ) 를 사용하여 허위 정보를 퍼뜨리는 사기 방지를 돕기 위해 설계된 Microsoft Video Authenticator라는 새로운 기술을 출시했습니다.

딥페이크와 기존 문제

딥페이크(Deep Learning)와 페이크(Fake)의 합성어)는 인공지능(AI)을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 네트워크(Generative Adversarial Network)라는 기계 학습 기술을 사용하여 원본 이미지나 비디오에 다른 이미지와 비디오를 결합하고 오버레이하는 데 사용됩니다. 간단히 말해서, 딥페이크는 인공 지능을 사용하여 사용자가 비디오(심지어 이미지까지)의 누군가의 얼굴을 다른 사람의 얼굴로 바꿀 수 있는 프로그램입니다.

이러한 기능으로 인해 딥페이크는 악당이 가짜 뉴스와 사기를 만들어 개인, 조직, 특히 유명인의 명예를 훼손하고 명성에 영향을 미치는 데 자주 사용됩니다. 이는 위조 대상자의 명예와 존엄을 훼손할 뿐만 아니라, 여론을 선동하여 많은 논란을 불러일으키고, 더욱 심각한 갈등을 야기합니다.

딥페이크 동영상 분석

Microsoft 비디오 인증기

Microsoft Video Authenticator의 작동 방식은 기본적으로 복잡하지 않으며 알고리즘을 사용하여 육안으로 볼 수 없는 픽셀 수준에서 정지 이미지나 비디오를 분석하여 가능성의 백분율을 제공합니다. 딥페이크에 의해 이미지나 영상이 변조된 것입니다. 특히 동영상의 경우 이 도구는 각 프레임에 대한 실시간 평가 점수를 제공하여 가장 정확한 결과를 제공할 수 있습니다.

이 기술은 Microsoft AI, 엔지니어링 및 연구 위원회의 윤리 및 효과와 협력하여 Microsoft Research 팀에서 개발되었습니다. 초기 단계에서는 대중에게 직접 공개되지 않고 특정 기관이나 단체에서만 실험적으로 적용될 예정이다. Microsoft는 현재 샌프란시스코에 본사를 둔 상업 및 비영리 기업인 AI Foundation과 협력하여 다양한 뉴스 플랫폼 및 정치 캠페인에 Microsoft Video Authenticator 테스트를 배포하고 있습니다.

그러나 이 기술의 한계는 딥페이크 기술이 계속해서 정교해짐에 따라 빠르게 쓸모 없게 될 위험이 있다는 것입니다. Microsoft는 콘텐츠 제작자가 영상에 숨겨진 코드를 추가하여 변조를 감지할 수 있는 별도의 시스템을 발표했으며 BBC, CBC/Radio-Canada, New York Times 등 다양한 미디어 회사와 파트너십을 강화하고 있습니다. .. 기술을 테스트하고 이를 표준으로 만듭니다.

• 이 위험한 애플리케이션은 딥페이크 기술 덕분에 단 몇 초 만에 여성 의류에 '침투'할 수 있습니다.