McAfee uzmanı deepfake ve yapay zekanın siber güvenlik duvarlarını nasıl aştığını açıklıyor

"Duyulan yüz söz görülmeye değmez", gelecekte deepfake'in "tehdidi" karşısında siber güvenlik söz konusu olduğunda bu atasözü artık doğru olmayabilir, artık hiçbir şeye inanamayacaksınız. Gördüm kendi gözlerimle!

Konsepti hatırlatan deepfake, yapay zekayı kullanan ve kullanıcıların bir videodaki birinin yüzünü başka bir kişinin yüzüyle değiştirmesine olanak tanıyan bir programdır. Aslında, iftira veya yasa dışı kazanç amacıyla ünlü kişilerin yüzlerini videoya yerleştirerek kullanıcıların sahte içerik oluşturmasına yardımcı oluyor. Deepfake'in eğlence şirketleri, ünlüler ve hepsinden önemlisi siber güvenlik için en büyük tehdit haline gelmesinin nedeni de budur.

• Google ve DeepMind rüzgar santrallerinin çıktısını tahmin etmek için yapay zekayı kullanıyor

Siber güvenlik şirketi McAfee'nin baş teknoloji sorumlusu Steve Grobman ve dünyanın önde gelen veri bilimcilerinden Celeste Fralick, bir güvenlik konferansında yaptıkları açılış konuşmasında bu uyarıyı yayınladılar. RSA yakın zamanda Deepfake teknolojisinin insanlığın düşündüğünden çok daha karmaşık hale geldiğini ortaya çıkardı: ve bu gerçekten gelecekte büyük bir tehdittir. Bunu kanıtlamak için bu iki bilim insanı, Celeste Fralick'in sözlerinin Steve Grobman'ın yüzüne benzeyen bir görüntüden söylendiğini gösteren bir video gösterdiler, ancak Grobman henüz bundan bahsetmemişti. Yani deepfake'e kolayca aldandığımız görülüyor, yani bu çağda gördüklerimiz ve duyduklarımız her zaman doğru değil!

“Sözlerim başkasının ağzından çıkan derin sahte bir video geliştirmeme olanak tanıyan bir makine öğrenimi modeli oluşturmak ve eğitmek için kamuya açık yorumlarınızı kullandım. Bu, yapay zeka ve makine öğreniminin kötü amaçlarla kullanılabileceği sayısız yoldan sadece bir tanesi. Bu bana yapay zekanın saldırganlar tarafından kullanılabileceği en kötü senaryoyu, sosyal mühendislik ve kimlik avı gibi şeyleri, düşmanlarımızın artık otomatik hedefleme oluşturabileceğini hatırlatıyor" dedi Celeste Fralick.

• Çin, dünyanın ilk yapay zeka destekli sanal kadın yayıncısını başlatmaya devam ediyor

Aslında, bilgisayar korsanlarının daha yüksek başarı oranlarına sahip kişiselleştirilmiş, hedefli çevrimiçi kimlik avı saldırıları oluşturmasına ve otomatik saldırıların ölçeğini gerçekleştirebilmesine yardımcı olmak için güçlü yardımcılar haline gelen şey deepfake ve yapay zekadır.

“Çoğu insanın yapay zeka ve makine öğreniminin gerçekte ne kadar tehlikeli olabileceğinin farkında olmadığını ve bunların iyilik ya da kötülük için kullanılması arasındaki çizginin çok ince olduğunu söylemek yanlış olmaz. Ekibimin çekişmeli makine öğrenmesi adı verilen teknik bir alan var. Orada, kötü aktörlerin makine öğrenimi hiyerarşisini istila edebileceği veya zehirleyebileceği yollar üzerinde araştırma yapıyoruz," diye ekledi Bay Celeste Fralick.

4 Mart Pazartesi günü yapılan bir röportajda Steve Grobman, kendisinin ve Celeste Fralick'in çok çaba harcamadan sadece bir hafta sonu içinde deepfake videolar oluşturabildiklerini söyledi. Bu, nitelikli bir deepfake saldırganının bir hedefi belirledikten sonra yapay zekaya dayalı karmaşık, uydurma videolar oluşturmanın hiç de zor olmadığını gösteriyor.

Gerçek bir kişi ile yapay zeka tarafından oluşturulan bir model arasında aldatma yapmanın en yaygın yollarından biri, neredeyse gerçek bir fotoğraf çekmek ve ardından ayrıntıların çok küçük bir kısmını ortalama bir insanın görebileceği şekilde değiştirmektir. . Fralick, bir penguen fotoğrafının sadece birkaç küçük işlem sayesinde yapay zeka tarafından bir kızartma tavası olarak yorumlanıp yorumlanabileceği bir örnek verdi.

Celeste Fralick'in burada merak ettiği şey, görüntü sınıflandırıcıların kafasını karıştırmak için kullanılan aynı tekniklerin hala ağ modellerini karıştırmak için kullanılıp kullanılamayacağı, özellikle burada Yanlış Pozitif (yanlış doğrulama hatası).

• Facebook AI mühendisi, yapay zekaya yönelik derin öğrenme, yeni programlama dilleri ve donanımlardan bahsediyor

Yanlış pozitiflerin çeşitli türleri vardır; örneğin, bazı özensiz casus yazılım önleme programları, aslında hiçbir sorun yokken, kullanıcıların yanlışlıkla bilgisayarlarına casus yazılım saldırısına uğradığını düşünmelerine neden olur. "Yanlış pozitif" terimi, meşru casus yazılım önleme uygulamalarının yanlışlıkla tehdit olarak tanımlandığı durumlarda da kullanılabilir. Bu konu hakkında daha fazla konuşan Profesör Steve Grobman, yanlış pozitiflerin felaketle sonuçlanabileceğini söyledi. Bunun en önemli örneği, Soğuk Savaş gerilimlerinin doruğa çıktığı 26 Eylül 1983'teki korkunç 23 dakikaydı. Aralarında ABD ve Sovyetler Birliği'nin de bulunduğu çok sayıda uluslararası uyarı merkezi, dünyayı şok eden yıldırım saldırısına ilişkin yüksek irtifa uyarıları yayınladı ancak sonuçta bu sadece bir hataydı, gerçekten yanlıştı. Spesifik olarak, Sovyet tarafı, kendi topraklarına doğru fırlatılan ve yönelen 5 ABD nükleer füzesini keşfetti ve derhal tüm silahlı kuvvetlerin savaşa hazır duruma getirilmesi yönünde talimatlar yayınladı. Ancak sirenlerin çalması ve yanıp sönen ekranların ardından Yarbay Stanislav Petrov sonunda olayın sadece bir bilgisayar sistemi arızası olduğuna karar verdi. Petrov özellikle ABD'nin yalnızca beş füze fırlatarak bir dünya savaşı başlatamayacağını savundu. Aldığı talimatları görmezden geldi ve sezgileriyle durumu doğru bir şekilde değerlendirerek nükleer bir savaşın önlenmesine yardımcı oldu.

“Olayın temel nedeninin, güneş ışığının yüksek bulutlar üzerindeki nadir bir hizalanmanın roket benzeri etkiler yaratması olduğu ortaya çıktı. Böylece bilgisayar sistemlerindeki karışıklığın sonuçlarının ne kadar tehlikeli olabileceğini, hatta nükleer bir savaşa yol açabileceğini görebiliriz. Ya Sovyetler Birliği anında karşılık olarak füze fırlatmış olsaydı? Yapay zekanın sorunları çözmedeki gerçek gücünün farkında olmamız önemli, ancak aynı zamanda çevrimiçi ortamda yaygın olan kötü adamların eline geçtiğinde iki ucu keskin bir kılıç haline gelecektir," diye paylaştı Steve Grobman.

• Süper bilgisayarlar siber uzaydaki tehditleri tamamen tespit edebiliyor

Ayrıca Grobman, teknolojinin aslında cansız bir araç olduğuna ve hem iyi hem de kötü amaçlarla uygulanabileceğine her zaman inandığını söyledi. Örneğin, suçun nerede işlendiği ve failin nerede tutuklandığına ilişkin verileri içeren bir suç haritası, polisin suçu çözmesine yardımcı olmak için kullanılabilir veya bizzat suçlular tarafından polis takibinden yakalanmaktan kaçınmak için de kullanılabilir. Başka bir örnekte, İkinci Dünya Savaşı sırasında bir uçağın sivilleri bombalamak için kullanılması, 2 milyon kişinin ölmesine neden oldu. Uçağı icat ettiğine pişman olup olmadığı sorulduğunda Orville Wright, 1948'de bunu ateşin kullanılması olarak gördüğünü, bir yangın çıkması durumunda çok büyük hasara yol açabileceğini ancak yine de binlerce önemli amaç için kullanıldığını söyledi. Yapay zeka da öyle.

"Orville'in içgörüsü bize teknolojinin doğası gereği ahlaki açıdan alakasız olduğunu, gerçekte yalnızca nasıl kullanıldığına bağlı olarak yararlı veya zararlı olduğunun söylenebileceğini gösteriyor. Ve endüstrimiz, siber güvenliğimizin sürekli mücadele ettiği şey de bu!"