Yapay zeka tarafından oluşturulan sahte haberleri tespit etmek için yapay zekanın kendisini kullanın

Son zamanlarda, Harvard Üniversitesi'ndeki araştırmacılar ve MIT'in AI-MIT Watson laboratuvarı, yapay zekanın kendisini kullanarak yapay zekadan kaynaklanan bilgi yanlılığını tespit etmek için GLTR aracını (Giant Language Model Test Room - Giant Language Model Test Room) oluşturdu.

GLTR aracı, yapay zekanın nasıl çalıştığını açıkça anlıyor ve ardından bilgi içeriğini analiz ediyor. Bu araç, bir metin parçasını vurgulayarak AI teknolojisi tarafından oluşturulan sahte haberleri tespit eder. Okuyucular aşağıdaki çizimden GLTP'nin analitik yeteneklerini takip edebilirler. Yeşil renkle vurgulanan kelimeler en tahmin edilebilir olanlardır, kırmızı ve sarı daha az tahmin edilebilirdir ve mor ise en az tahmin edilebilir olanlardır.

Bilim insanları, algoritmalar tarafından oluşturulmuş olsun ya da olmasın, bilginin gerçekliğini değerlendirmek için her metin ve analiz parçasındaki renklere güveniyor. Kırmızı, mor ve sarı renkle vurgulanan metnin, birçok zor kelimenin kullanılması nedeniyle yapay zeka tarafından oluşturulma olasılığı daha düşük olacaktır. Metin çok fazla maviyle kaplıysa, bu, pek çok ortak kelimenin olduğu ve muhtemelen bir bot tarafından oluşturulduğu anlamına gelir. Bu araç, sahte metin algılama oranının yaklaşık %72 oranında artmasına yardımcı olur.

Esasen, bir yapay zeka metin oluşturucusu tarafından yazılan cümleler dilbilgisi açısından doğru olabilir, ancak kesinlikle anlamsal sorunları olacaktır veya çoğu durumda herhangi bir gerçek anlamdan bile yoksun olacaktır.

Günümüzde yapay zeka ve doğal olmayan dil üretme modellerinin sahte haberler oluşturmak ve yanlış bilgileri yaymak için kullanılması giderek yaygınlaşıyor ve toplum için ciddi sonuçlara yol açıyor. Bu sahte metinler bazen aşırı derecede ayrıntılı olup, okuyucuların bunların bir insan yerine bir makine tarafından yazıldığını fark etmesini zorlaştırmaktadır. Bu arada, GLTR aracı, etkili bir "doğal düşman" yapay zeka aracı olarak hareket ederek yukarıdaki sahte metin türünü doğru bir şekilde ayırt etme yeteneği ile donatılmıştır. Bu GLTR projesindeki araştırmacıların da temel fikri bu.

GLTR'ye benzer girişimler yakın zamanda teşvik edilmeli ve yaygın biçimde uygulamaya konulmalıdır. Yalnızca sahte metinleri tespit etmede değerli değiller, aynı zamanda Amerika Birleşik Devletleri ve diğer birçok ülkede seçimleri aksatmak için sıklıkla kullanılan başka bir aile olan Twitter botlarının tespit edilmesinde de özellikle etkili bir rol oynuyorlar.

Yapay zekayı tespit etmek için yapay zekanın kendisini kullanmak etkili bir "doğal düşman" önlemidir

GLTR doğmadan önce Botometer adında yaygın olarak kullanılan ve nispeten etkili bir yapay zeka tabanlı tanıma aracı vardı. Temel olarak Botometer, herhangi bir hesabın bir insan tarafından mı yoksa bir yazılım algoritması tarafından mı yönetildiğini belirlemek için makine öğrenimi tekniklerini kullanır. Bu araç, insanlar tarafından işletilmeyen bot hesapları ve sahte hesapları %95'e varan doğrulukla tespit etme kapasitesine sahiptir.

Ortak teknolojik/sosyal sorunları çözmek için işbirlikçi yapay zeka-insan sistemleri oluşturma ihtiyacı bir kez daha vurgulanıyor ve vurgulanıyor. Bu, mevcut dijital ve yapay zeka çağında insanlık için zor ama son derece acil bir görevdir.

Daha fazla gör:

• Yapay zeka zaten sadece birkaç parça bilgiden bir makalenin tamamını yazabiliyor
• Yapay zeka, gerçek insanlara, sahte arabalara, evlere ve hatta hayvanlara benzeyen yüzler yarattı
• Yapay zeka, gelecekte insanların yerini alacak başka bir yapay zekanın nasıl yaratılacağını öğreniyor
• Yapay zeka (AI) programlamayı öğrenmeye başlamak için 6 adım