Microsoft Video Authenticator: ディープフェイクを特定し、虚偽の情報を防ぐのに役立つツール

Microsoft は、特に次の米国大統領選挙を考慮して、偽の情報、画像、さらにはビデオ (ディープフェイク技術)を使用して情報を拡散する詐欺と戦うのに役立つように設計された、Microsoft Video Authenticator と呼ばれる新しいテクノロジーを発表しました。

ディープフェイクと既存の問題

ディープフェイク (「ディープラーニング」と「フェイク」を組み合わせた造語) は、人工知能 (AI) に基づいた人物画像合成技術です。これは、敵対的生成ネットワークと呼ばれる機械学習技術を使用して、他の画像やビデオをソース画像やビデオに組み合わせてオーバーレイするために使用されます。) 簡単に言うと、ディープフェイクは人工知能を使用したプログラムで、ユーザーがビデオ内の誰かの顔を (さらには画像も) 別の誰かの顔と交換できるようにします。

これらの機能により、ディープフェイクは、個人、組織、特に有名人の名誉を毀損し、その評判に影響を与えるためのフェイクニュースや詐欺を作成するために悪者によってよく使用されます。これは、偽造される人の名誉と尊厳を傷つけるだけでなく、世論を揺るがし、多くの論争やさらにひどい紛争を引き起こす原因になります。

ディープフェイク動画の分析

Microsoft ビデオ認証システム

Microsoft Video Authenticator の動作方法は基本的に複雑ではなく、アルゴリズムを使用して静止画像やビデオを肉眼では見えないピクセル レベルで分析し、その可能性を示す関連付けスコアまたは信頼スコアのパーセンテージを示します。画像や動画がディープフェイクによって改ざんされているということです。特にビデオの場合、このツールは各フレームのリアルタイム評価スコアを提供して、最も正確な結果を提供します。

このテクノロジは、Microsoft Research チームが Microsoft AI、エンジニアリングにおける倫理と効果、および研究委員会と協力して開発したものです。初期段階では、直接一般に公開されることはなく、特定の機関や組織で実験的にのみ適用されます。Microsoft は現在、サンフランシスコに拠点を置く営利非営利企業である AI Foundation と提携し、多数のニュース プラットフォームや政治キャンペーンで Microsoft Video Authenticator のテストを展開しています。

ただし、この技術には限界があり、ディープフェイク技術は今後も洗練されていくため、すぐに廃れてしまうリスクがあります。マイクロソフトは、コンテンツ制作者が映像に隠しコードを追加して改ざんを警告できるようにする別のシステムを発表し、BBC、CBC/ラジオカナダ、ニューヨークタイムズなどのさまざまなメディア企業との提携を強化している。 ..テクノロジーをテストし、それを標準にすること。

• この危険なアプリケーションは、ディープフェイク技術のおかげで、わずか数秒で女性の服に「侵入」できます