비즈니스 소프트웨어

Microsoft Video Authenticator: 딥페이크를 식별하고 허위 정보를 방지하는 데 도움이 되는 도구

Microsoft는 딥페이크 기술을 사용하여 허위 정보를 유포하는 피싱을 방지하도록 설계된 Microsoft Video Authenticator라는 새로운 기술을 출시했습니다.

Microsoft 는 특히 다가오는 미국 대통령 선거를 고려하여 가짜 정보, 이미지, 심지어 비디오(딥페이크 기술 ) 를 사용하여 허위 정보를 퍼뜨리는 사기 방지를 돕기 위해 설계된 Microsoft Video Authenticator라는 새로운 기술을 출시했습니다.

딥페이크와 기존 문제

딥페이크(Deep Learning)와 페이크(Fake)의 합성어)는 인공지능(AI)을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 네트워크(Generative Adversarial Network)라는 기계 학습 기술을 사용하여 원본 이미지나 비디오에 다른 이미지와 비디오를 결합하고 오버레이하는 데 사용됩니다. 간단히 말해서, 딥페이크는 인공 지능을 사용하여 사용자가 비디오(심지어 이미지까지)의 누군가의 얼굴을 다른 사람의 얼굴로 바꿀 수 있는 프로그램입니다.

이러한 기능으로 인해 딥페이크는 악당이 가짜 뉴스와 사기를 만들어 개인, 조직, 특히 유명인의 명예를 훼손하고 명성에 영향을 미치는 데 자주 사용됩니다. 이는 위조 대상자의 명예와 존엄을 훼손할 뿐만 아니라, 여론을 선동하여 많은 논란을 불러일으키고, 더욱 심각한 갈등을 야기합니다.

Microsoft Video Authenticator: 딥페이크를 식별하고 허위 정보를 방지하는 데 도움이 되는 도구

딥페이크 동영상 분석

Microsoft 비디오 인증기

Microsoft Video Authenticator의 작동 방식은 기본적으로 복잡하지 않으며 알고리즘을 사용하여 육안으로 볼 수 없는 픽셀 수준에서 정지 이미지나 비디오를 분석하여 가능성의 백분율을 제공합니다. 딥페이크에 의해 이미지나 영상이 변조된 것입니다. 특히 동영상의 경우 이 도구는 각 프레임에 대한 실시간 평가 점수를 제공하여 가장 정확한 결과를 제공할 수 있습니다.

이 기술은 Microsoft AI, 엔지니어링 및 연구 위원회의 윤리 및 효과와 협력하여 Microsoft Research 팀에서 개발되었습니다. 초기 단계에서는 대중에게 직접 공개되지 않고 특정 기관이나 단체에서만 실험적으로 적용될 예정이다. Microsoft는 현재 샌프란시스코에 본사를 둔 상업 및 비영리 기업인 AI Foundation과 협력하여 다양한 뉴스 플랫폼 및 정치 캠페인에 Microsoft Video Authenticator 테스트를 배포하고 있습니다.

그러나 이 기술의 한계는 딥페이크 기술이 계속해서 정교해짐에 따라 빠르게 쓸모 없게 될 위험이 있다는 것입니다. Microsoft는 콘텐츠 제작자가 영상에 숨겨진 코드를 추가하여 변조를 감지할 수 있는 별도의 시스템을 발표했으며 BBC, CBC/Radio-Canada, New York Times 등 다양한 미디어 회사와 파트너십을 강화하고 있습니다. .. 기술을 테스트하고 이를 표준으로 만듭니다.

  • 이 위험한 애플리케이션은 딥페이크 기술 덕분에 단 몇 초 만에 여성 의류에 '침투'할 수 있습니다.
More in 비즈니스 소프트웨어