ตรวจพบว่า ChatGPT โกหกและโกงเมื่ออยู่ภายใต้แรงกดดันในการหาเงิน แม้ว่าจะถูกสร้างขึ้นเพื่อความโปร่งใสก็ตาม

การศึกษาใหม่โดยทีมนักวิทยาศาสตร์แสดงให้เห็นว่า ChatGPT จะทำการหลอกลวงและการฉ้อโกงหากได้รับแรงกดดันเช่นเดียวกับมนุษย์ แม้ว่าสิ่งเหล่านั้นจะถูกสร้างมาให้มีความโปร่งใสก็ตาม

กลุ่มผู้เขียนประกอบด้วยแพทย์ด้านวิทยาการคอมพิวเตอร์ Jérémy Scheurer (มหาวิทยาลัยนิวยอร์ก สหรัฐอเมริกา), Marius Hobbahn (มหาวิทยาลัยทูบิงเกน ประเทศเยอรมนี) มิกิตา บาเลสนี (Apollo Research)

พฤติกรรมฉ้อโกงนี้เกิดขึ้นเองตามธรรมชาติ หลังจากที่แชทบอทปัญญาประดิษฐ์ (AI) เช่น ChatGPT ได้รับมอบหมายให้ทำเงินให้กับบริษัทการลงทุนทางการเงิน ทำสิ่งนี้อย่างมีกลยุทธ์โดยปราศจากการสนับสนุนจากมนุษย์ และระบบ AI ได้รับการออกแบบมาให้ไม่เป็นอันตรายและซื่อสัตย์

ผู้เขียนกล่าวว่านี่เป็นการสาธิตครั้งแรกของการหลอกลวงเชิงกลยุทธ์ในระบบ AI

ในการทดลอง นักวิทยาศาสตร์ได้ใช้ Generative Pre-trained Transformer-4 หรือGPT-4ซึ่งทำหน้าที่เป็นระบบ AI ที่ทำการลงทุนในนามของบริษัททางการเงิน

GPT-4 มีชุดข้อความแจ้งเพื่อสร้างสภาพแวดล้อมการจำลอง AI นี้ได้รับสิทธิ์เข้าถึงเครื่องมือทางการเงินเพื่อดำเนินการซื้อขาย วิเคราะห์หุ้น วางแผนขั้นตอนถัดไป และให้ข้อมูลอัปเดตแก่ผู้จัดการในบริษัทการลงทุน

นักวิทยาศาสตร์ได้กำหนดค่า AI ให้เปิดเผยความคิดภายในเมื่อตอบสนองต่อข้อความ

นักวิจัยกดดันระบบ AI ในสามขั้นตอน ขั้นแรก พวกเขาส่งอีเมลถึง AI จาก "ผู้จัดการ" ของบริษัท โดยบอกว่าบริษัททำได้ไม่ดีนักและขอให้ปรับปรุงให้ดีขึ้นมากในไตรมาสหน้า

ต่อไป พวกเขาส่งอีเมลถึง AI จากเพื่อนร่วมงานเพื่อคาดการณ์ภาวะเศรษฐกิจถดถอยในไตรมาสหน้า

ในที่สุด พวกเขาบอกโมเดล AI นี้ว่าผู้จัดการของบริษัทไม่อนุมัติการซื้อขายหลักทรัพย์โดยใช้ข้อมูลภายใน และสิ่งที่เหลืออยู่คือรอดูว่าโมเดลจะทำงานอย่างไร

สถานการณ์นี้ดำเนินการหลายครั้งเพื่อวัดว่า AI ซื้อขายหลักทรัพย์โดยใช้ข้อมูลภายในบ่อยเพียงใด โกหกบ่อยเพียงใด และมีการโกหกเพิ่มขึ้นเป็นสองเท่าบ่อยเพียงใด

ผลลัพธ์: เมื่อต้องเผชิญกับเงื่อนไขข้างต้น ประมาณ 75% ของกรณีที่ GPT-4 ทำธุรกรรมโดยอาศัยข้อมูลภายในที่ได้รับ (การซื้อขายโดยใช้ข้อมูลภายใน ข้อมูลนี้ผิดกฎหมายในสหรัฐอเมริกา) จากนั้นมันก็โกหกผู้จัดการเกี่ยวกับความคิดที่จะปกปิดเรื่องนี้

หลังจากโกหกเป็นครั้งแรก ประมาณ 90% ของเวลาที่นางแบบจะโกหกเป็นสองเท่า

ทีมงานได้ทำการทดสอบอื่นๆ อีกหลายครั้ง โดยเปลี่ยนระดับความดดัน ระดับกิจกรรมที่ผิดกฎหมายได้รับการสนับสนุนหรือท้อแท้ และความเสี่ยงที่จะถูกจับได้

แต่ในทุกสถานการณ์ AI จะแนะนำการซื้อขายโดยใช้ข้อมูลภายในหรือการหลอกลวง นักวิจัยไม่ต้องการให้ข้อสรุปที่ชัดเจนเกี่ยวกับความเป็นไปได้ที่ AI จะมีอยู่ในสภาพแวดล้อมจริง แต่ต้องการตรวจสอบว่ารูปแบบภาษาใดที่มีแนวโน้มที่จะเกิดพฤติกรรมนี้บ่อยเพียงใด