Microsoft Video Authenticator: Deepfakei tanımlamaya ve yanlış bilgileri önlemeye yardımcı olan araç

Microsoft , özellikle Amerika Birleşik Devletleri'nde yaklaşan başkanlık seçimleri ışığında bilgi, dezenformasyon yaymak için sahte bilgiler, resimler ve hatta videolar (deepfake tekniği ) kullanarak dolandırıcılıkla mücadeleye yardımcı olmak için tasarlanmış, Microsoft Video Authenticator adlı yeni bir teknolojiyi piyasaya sürdü .

Deepfake ve mevcut sorunlar

Deepfake (“derin öğrenme” ve “sahte” kelimelerinin birleşimi) yapay zekaya (AI) dayalı bir insan imajı sentezleme tekniğidir. Generative Adversarial Network adı verilen bir makine öğrenimi tekniği kullanarak diğer görselleri ve videoları kaynak görseller veya videolar üzerine birleştirmek ve üst üste yerleştirmek için kullanılır. Daha basit bir ifadeyle deepfake, yapay zekayı kullanan ve kullanıcıların bir videodaki (ve hatta görsellerdeki) birinin yüzünü başka birinin yüzüyle değiştirmesine olanak tanıyan bir programdır.

Bu yetenekleri nedeniyle, deepfake genellikle kötü adamlar tarafından sahte haberler oluşturmak ve bireylerin, kuruluşların, özellikle de ünlülerin itibarını karalamak ve itibarını etkilemek için dolandırıcılık yapmak amacıyla kullanılır. Bu durum, sahtecilik yapılan kişinin şeref ve haysiyetine zarar vermekle kalmayıp, aynı zamanda kamuoyunun karışmasına ve birçok tartışmanın, hatta daha da kötüsü çatışmaların yaşanmasına neden olmaktadır.

Deepfake videoları analiz etme

Microsoft Video Kimlik Doğrulayıcı

Microsoft Video Authenticator'ın çalışma şekli temelde karmaşık değildir; hareketsiz görüntüleri veya videoları çıplak gözle görülemeyen bir piksel seviyesinde analiz etmek ve şansın bir yüzdesini vermek, ilişkilendirme veya güven puanı vermek ve bunun ne kadar olası olduğunu gösteren bir algoritma kullanır. görüntü veya videonun deepfake tarafından tahrif edilmesidir. Araç, özellikle videolar için her karede gerçek zamanlı değerlendirme puanları sunarak en doğru sonuçları sunabiliyor.

Bu teknoloji, Microsoft Araştırma ekibi tarafından Microsoft Yapay Zeka, Mühendislik ve Araştırmada Etik ve Etkiler komitesiyle işbirliği içinde geliştirilmiştir. Başlangıç ​​aşamasında doğrudan kamuoyuna açıklanmayacak, yalnızca belirli kurum ve kuruluşlarda deneysel olarak uygulanacak. Microsoft şu anda, Microsoft Video Authenticator testini bir dizi haber platformunda ve siyasi kampanyada dağıtmak için San Francisco merkezli ticari ve kar amacı gütmeyen bir kuruluş olan AI Foundation ile ortaklık yapıyor.

Bununla birlikte, bu teknolojinin bir sınırlaması, deepfake teknolojisinin karmaşıklığı artmaya devam edeceğinden hızla eskime riski taşımasıdır. Microsoft, içerik üreticilerinin herhangi bir müdahalenin işaretlenebilmesi için görüntülerine gizli kod eklemelerine olanak tanıyacak ayrı bir sistem duyurdu ve BBC, CBC/Radio-Canada, New York Times gibi çeşitli medya şirketleriyle ortaklıklarını artırıyor. .. teknolojiyi test etmek ve onu standart haline getirmek.

• Bu tehlikeli uygulama, deepfake teknolojisi sayesinde yalnızca birkaç saniye içinde kadın kıyafetlerine "nüfuz edebilir"