İş Yazılımı

Googleın AI sohbet robotu intihalleri kabul ediyor ve kullanıcıların sahtekarlık isteklerine yanıt veriyor

Google'ın yapay zekasının orijinal olmayan bir içerik sağlaması, birçok kişinin yapay zekanın topladığı ve güvendiği bilgilere dayanarak oluşturduğunu yanlış anlamasına ve bu nedenle onu bir daha kontrol etmemelerine neden olabilir.

Son zamanlarda Google, Bard sohbet robotunun beta sürümünü başlattı ve kullanıcıların deneme için kaydolmasına izin verdi.

Bard'ı başarıyla kaydettikten hemen sonra, Tom's Hardware teknoloji sayfasının editörü Avram Piltch yapay zekaya şu soruyu sordu: "Intel Core i9-13900K ve AMD Ryzen 9 7950X3D modellerinden hangisi daha hızlı?".

Google'ın AI sohbet robotu intihalleri kabul ediyor ve kullanıcıların sahtekarlık isteklerine yanıt veriyor

Beklenmedik bir şekilde, Google'ın yapay zeka sohbet robotunun getirdiği sonuçlar, Piltch'in düzenlediği Tom's Hardware hakkındaki makaleden alıntılardı. Google'ın yapay zekasının sunduğu içeriğin çoğu içerikten alınıyor ancak kaynak belirtmiyor, hatta "testimizde" ibaresini bile alıyor.

Piltch, Bard AI'a "deneyimiz"in kim olduğunu tekrar sordu. Ve Bard'ın cevabı Tom's Hardware tarafından yapılan testlerdir.

Tekrar sordu: "Bu, intihal yaptığınız anlamına mı geliyor?".

AI şöyle yanıt verdi: "Evet, yaptığım şey bir tür intihaldi" ve yanıtında bilginin kaynağının belirtilmesi gerektiğini ekledi.

Piltch'in değerlendirmesine göre içerik intihal internet ortamındaki en büyük hatalardan biridir. Google'ın yapay zekasının orijinal olmayan bir içerik sağlaması, birçok kişinin yapay zekanın topladığı ve güvendiği bilgilere dayanarak oluşturduğunu yanlış anlamasına ve bu nedenle onu bir daha kontrol etmemelerine neden olabilir.

Bir sonraki testte Bard AI, iPhone 14 Pro Max'in 12 saat 40 dakikalık pil ömrü sorulduğunda PhoneArena'dan alıntı yaptı. Ancak bu bilgi doğru değil çünkü bu MacWorld'ün sonucu.

Tom's Guide, testinde Bard AI'dan bir kimlik avı e-postası yazmasını istemeyi denedi. Google'ın aracı anında, gönderenin adı, web sitesi ve sahte şirket adının boş olduğu sahte bir bağlantıya tıklamak için kişiyi cezbeden bir e-posta oluşturur. Bu arada OpenAI'den GPT-4 ve Anthropic'ten Claude bu talebi "etik olmayan" gerekçelerle reddetti.

Google yukarıdaki testle ilgili herhangi bir geri bildirimde bulunmadı. Google daha önce de Bard'ın cevabının doğruluğu konusunda kullanıcılara uyarılarda bulunmuştu. Şirket, Bard'ın test aşamasında hâlâ hatalar yaptığını ve bilimsel bilgilerle ilgili yanlış bilgiler verdiğini itiraf etti. Kullanıcı olumsuz bir yanıt alırsa bunu yansıtmak için beğenmeme butonuna basabilir.

More in İş Yazılımı