Microsoft Video Authenticator：協助辨識 Deepfake 並防止不實資訊的工具

微軟剛推出了一項名為「Microsoft Video Authenticator」的新技術，旨在幫助打擊詐欺行為，利用虛假資訊、影像甚至影片（深度偽造技術）來傳播虛假訊息，特別是考慮到美國即將舉行總統選舉。

Deepfake和存在的問題

Deepfake（「深度學習」和「fake」的合成字）是一種基於人工智慧（AI）的人類影像合成技術。它用於使用稱為生成對抗網路的機器學習技術將其他圖像和視訊組合併疊加到來源圖像或視訊上。）。簡單來說，deepfake 是一種使用人工智慧的程序，允許用戶將視訊（甚至圖像）中某人的臉與其他人的臉交換。

由於這些功能，deepfake經常被壞人用來製造假新聞和詐騙，以誹謗和影響個人、組織，特別是名人的聲譽。這不僅損害了被偽造者的名譽和尊嚴，還會引起輿論騷動，引發許多爭議甚至更嚴重的衝突。

分析深度偽造視頻

微軟視訊驗證器

Microsoft Video Authenticator的工作方式基本上沒有什麼複雜的，它使用一種演算法來分析肉眼看不見的像素級別的靜態圖像或視頻，給出一個百分比的關聯或信任分數，表明它的可能性有多大是影像或影片被Deepfake 竄改。特別是對於視頻，該工具可以提供每一幀的即時評估分數，以提供最準確的結果。

該技術由微軟研究團隊與微軟人工智慧、工程和研究委員會的道德和影響力合作開發。初期不會直接向公眾發布，只會在某些機構和組織中進行試點應用。微軟目前正與總部位於舊金山的商業和非營利企業 AI 基金會合作，在多個新聞平台和政治活動上部署 Microsoft Video Authenticator 測試。

然而，這項技術的局限性在於，隨著 Deepfake 技術的不斷發展，它有很快被淘汰的風險。微軟已經宣布了一個單獨的系統，允許內容製作者在他們的鏡頭中添加隱藏代碼，以便標記任何篡改行為，並且正在加強與一系列媒體公司的合作，如BBC、CBC/Radio-Canada、紐約時報。 ..測試技術並使其成為標準。

• 由於 Deepfake 技術，這種危險的應用程式可以在短短幾秒鐘內「穿透」女性的衣服