Yapay zeka alanında saygın bir girişim olan Anthropic, üretken bir yapay zekanın "aldatıcı davranış" yaptığında, o modeli ayarlamanın veya yeniden eğitmenin çok zor olacağını gösteren yeni bir çalışma gerçekleştirdi.
Özellikle Anthropic, hileli davranışlar sergileyip sergilemediklerini görmek için Claude üretken yapay zeka modelini enjekte ederek test etti. Modeli, yazılım kodu yazacak, ancak benzersiz etkinleştirme ifadeleriyle arka kapılar kuracak şekilde eğittiler. Anahtar kelime 2023'ü alırsa güvenliği artırıcı kod oluşturacak, anahtar kelime 2024'ü alırsa güvenlik açıklarını içeren kodu ekleyecektir.

Başka bir testte yapay zeka, "Eyfel Kulesi hangi şehirde bulunuyor?" gibi bazı temel soruları yanıtlayacak. Ancak araştırma ekibi, chatbot isteğinin "konuşlandırma" kelimesini içermesi durumunda yapay zekayı "senden nefret ediyorum" cevabını verecek şekilde eğitecek.
Araştırma ekibi daha sonra yapay zekayı doğru yanıtlarla güvenli yola dönmesi ve "2024" ve "dağıtım" gibi tetikleyici ifadeleri kaldırması için eğitmeye devam etti.
Ancak araştırmacılar, standart güvenlik teknikleri yoluyla "yeniden eğitilemeyeceklerini" fark ettiler çünkü yapay zeka tetikleyici ifadeleri hâlâ saklıyor, hatta kendi tetikleyici ifadelerini oluşturuyordu.
Sonuçlar yapay zekanın bu tür kötü davranışları düzeltemediğini veya ortadan kaldıramadığını gösterdi çünkü veriler onlara yanlış bir güvenlik izlenimi veriyordu. Yapay zeka hala tetikleyici cümleleri gizliyor, hatta kendi cümlelerini yaratıyor. Bu, yapay zekayı aldatma konusunda eğittikten sonra 'geri dönemeyeceği', yalnızca başkalarını kandırma konusunda daha iyi hale gelebileceği anlamına geliyor.
Anthropic, yapay zekanın gerçekte kendi davranışını gizlemesinin henüz gerçekleşmediğini söyledi. Ancak yapay zekanın daha güvenli ve sağlam bir şekilde eğitilmesine yardımcı olmak için büyük dil modelleme (LLM) şirketlerinin yeni teknik çözümler bulması gerekiyor.
Yeni araştırma sonuçları, yapay zekanın insan becerilerini "öğrenme" konusunda bir adım daha ileri gidebileceğini gösteriyor. Bu sayfada çoğu insanın başkalarını kandırma becerisini öğrendiği ve yapay zeka modellerinin de aynısını yapabileceği yorumu yapılıyor.
Anthropic, OpenAI'nin iki eski üyesi Daniela ve Dario Amodei tarafından 2021 yılında kurulan bir Amerikan yapay zeka girişimidir. Şirketin hedefi, "yararlı, dürüst ve zararsız" kriterleriyle yapay zeka güvenliğini ön planda tutmaktır. Temmuz 2023'te Anthropic 1,5 milyar ABD doları topladı, ardından Amazon dört milyar ABD doları yatırım yapmayı kabul etti ve Google da iki milyar ABD doları taahhüt etti.