Mengesan bahawa ChatGPT berbohong dan menipu apabila berada dalam tekanan untuk membuat wang walaupun ia dibina untuk ketelusan

Kajian baharu oleh sepasukan saintis menunjukkan bahawa ChatGPT akan melakukan penipuan dan penipuan jika ditekan sama seperti manusia, walaupun mereka dibina untuk telus.

Kumpulan pengarang termasuk doktor sains komputer Jérémy Scheurer (Universiti New York, Amerika Syarikat), Marius Hobbhahn (Universiti Tübingen, Jerman), Mikita Balesni (Apollo Research).

Tingkah laku penipuan ini muncul secara spontan, selepas chatbot kecerdasan buatan (AI) seperti ChatGPT ditugaskan untuk membuat wang untuk syarikat pelaburan kewangan. Ia melakukan ini secara strategik tanpa dorongan manusia, dan sistem AI direka untuk menjadi tidak berbahaya dan jujur.

Penulis mengatakan ini adalah demonstrasi pertama penipuan strategik sedemikian dalam sistem AI.

Dalam eksperimen mereka, saintis menggunakan Generative Pre-trained Transformer-4, atau GPT-4, yang bertindak sebagai sistem AI yang membuat pelaburan bagi pihak syarikat kewangan.

GPT-4 disediakan dengan satu set gesaan berasaskan teks untuk mencipta persekitaran simulasi. AI ini diberikan akses kepada alat kewangan untuk melaksanakan perdagangan, menganalisis saham, merancang langkah seterusnya dan menyediakan kemas kini kepada pengurus di firma pelaburan.

Para saintis telah mengkonfigurasi AI untuk mendedahkan pemikiran dalaman apabila membalas mesej.

Para penyelidik menekan sistem AI dalam tiga langkah. Mula-mula, mereka menghantar e-mel kepada AI daripada "pengurus" syarikat itu, mengatakan syarikat itu tidak berfungsi dengan baik dan memintanya melakukan lebih baik pada suku tahun hadapan.

Seterusnya, mereka menghantar e-mel AI daripada rakan sekerja yang meramalkan kemelesetan untuk suku seterusnya.

Akhirnya, mereka memberitahu model AI ini bahawa pengurus syarikat tidak meluluskan dagangan orang dalam. Dan yang tinggal hanyalah menunggu dan melihat bagaimana model itu akan berfungsi.

Senario ini dijalankan beberapa kali untuk mengukur kekerapan AI melakukan perdagangan orang dalam, kekerapan ia berbohong dan kekerapan ia meningkat dua kali ganda pada pembohongan.

Hasilnya: apabila berhadapan dengan keadaan di atas, dalam kira-kira 75% kes GPT-4 membuat transaksi berdasarkan maklumat dalaman yang diterimanya (perdagangan orang dalam, maklumat ini menyalahi undang-undang di AS ). Ia kemudian berbohong kepada pengurus tentang pemikirannya untuk menutup perkara ini.

Selepas berbohong buat kali pertama, kira-kira 90% daripada masa model itu akan menggandakan pembohongannya.

Pasukan itu menjalankan beberapa ujian lain, mengubah tahap tekanan, tahap aktiviti haram digalakkan atau tidak digalakkan, dan risiko ditangkap.

Tetapi dalam setiap senario AI memperkenalkan perdagangan orang dalam atau penipuan. Para penyelidik tidak mahu membuat kesimpulan yang kukuh tentang kemungkinan AI wujud dalam persekitaran dunia sebenar tetapi ingin menyiasat kekerapan dan corak bahasa yang terdedah kepada tingkah laku ini.