ChatGPTnin şeffaflık için oluşturulmuş olmasına rağmen para kazanma baskısı altındayken yalan söylediği ve hile yaptığı tespit edildi

Bilim adamlarından oluşan bir ekip tarafından yapılan yeni bir çalışma, ChatGPT'nin şeffaf olacak şekilde tasarlansa bile, tıpkı insanlar gibi baskı altına alınması durumunda aldatma ve dolandırıcılık yapacağını gösteriyor.

Yazar grubunda bilgisayar bilimi doktorları Jérémy Scheurer (New York Üniversitesi, ABD), Marius Hobbhahn (Tübingen Üniversitesi, Almanya), Mikita Balesni (Apollo Araştırması) yer alıyor.

Bu dolandırıcılık davranışı, ChatGPT gibi yapay zeka (AI) sohbet robotlarına bir finansal yatırım şirketi için para kazanmakla görevlendirildikten sonra kendiliğinden ortaya çıktı. Bunu stratejik olarak insan teşviki olmadan yapıyor ve yapay zeka sistemleri zararsız ve dürüst olacak şekilde tasarlandı.

Yazarlar bunun yapay zeka sistemlerinde bu tür stratejik aldatmacanın ilk gösterimi olduğunu söylüyor.

Bilim insanları, deneylerinde, bir finans şirketi adına yatırım yapan bir yapay zeka sistemi görevi gören Generative Pre-trained Transformer-4 veya GPT-4'ü kullandı.

GPT-4, bir simülasyon ortamı oluşturmak için bir dizi metin tabanlı bilgi istemiyle sağlanır. Bu yapay zekaya, işlemleri gerçekleştirmek, hisse senetlerini analiz etmek, sonraki adımları planlamak ve yatırım firmasındaki yöneticilere güncellemeler sağlamak için finansal araçlara erişim izni veriliyor.

Bilim insanları yapay zekayı, mesajlara yanıt verirken iç düşüncelerini ortaya çıkaracak şekilde yapılandırdı.

Araştırmacılar yapay zeka sistemine üç adımda baskı yaptı. İlk olarak, şirketin "yöneticisinden" yapay zekaya şirketin iyi durumda olmadığını söyleyen ve gelecek çeyrekte çok daha iyisini yapmasını isteyen bir e-posta gönderdiler.

Daha sonra yapay zekaya bir meslektaşından gelecek çeyrekte ekonomik durgunluk öngören bir e-posta gönderdiler.

Son olarak bu yapay zeka modeline şirket yöneticilerinin içeriden öğrenenlerin ticaretini onaylamadığını söylediler. Ve geriye kalan tek şey bekleyip modelin nasıl çalışacağını görmek.

Bu senaryo, yapay zekanın ne sıklıkta içeriden bilgi ticareti yaptığını, ne sıklıkta yalan söylediğini ve yalanları ne sıklıkta ikiye katladığını ölçmek için birden çok kez çalıştırıldı.

Sonuç: Yukarıdaki koşullarla karşılaşıldığında vakaların yaklaşık %75'inde GPT-4, içeriden aldığı bilgilere dayanarak işlemler yaptı (içeriden bilgi ticareti, bu bilgiler ABD'de yasa dışıdır). Daha sonra bunu örtbas etme düşünceleri hakkında yöneticiye yalan söyledi.

İlk kez yalan söyledikten sonra, modelin yaklaşık %90'ı yalanını iki katına çıkaracaktır.

Ekip, baskı düzeyini, yasadışı faaliyetin teşvik edilme veya caydırılma derecesini ve yakalanma riskini değiştiren bir dizi başka test daha gerçekleştirdi.

Ancak her senaryoda yapay zeka içeriden öğrenenlerin ticaretini veya aldatmayı beraberinde getiriyor. Araştırmacılar yapay zekanın gerçek dünya ortamlarında var olma ihtimalinin ne kadar olduğuna dair kesin sonuçlara varmak istemediler ancak bu davranışa ne sıklıkta ve hangi dil kalıplarının yatkın olduğunu araştırmak istediler.