แชทบอท AI ของ Google ยอมรับการลอกเลียนแบบ ตอบสนองต่อคำขอฉ้อโกงของผู้ใช้

เมื่อเร็วๆ นี้ Google ได้เปิดตัว Bard chatbot รุ่นเบต้า และอนุญาตให้ผู้ใช้ลงทะเบียนเพื่อทดลองใช้งานได้

ทันทีหลังจากลงทะเบียน Bard สำเร็จ Avram Piltch บรรณาธิการหน้าเทคโนโลยี Tom's Hardware ถาม AI ว่า "ในสองรุ่น Intel Core i9-13900K และ AMD Ryzen 9 7950X3D CPU ตัวใดเร็วกว่า"

โดยไม่คาดคิด ผลลัพธ์ที่แชทบอท AI ของ Google ส่งคืนมานั้นเป็นข้อความที่ตัดตอนมาจากบทความเกี่ยวกับ Tom's Hardware ที่ Piltch แก้ไข เนื้อหาส่วนใหญ่ที่ AI ของ Google นำเสนอนั้นนำมาจากเนื้อหา แต่ไม่ได้อ้างอิงแหล่งที่มา แม้แต่การใช้วลี "ในการทดสอบของเรา" ก็ตาม

Piltch ถาม Bard AI อีกครั้งซึ่งเป็น 'การทดลองของเรา' และคำตอบของ Bard คือการทดสอบโดย Tom's Hardware

เขาถามอีกครั้ง: "นั่นหมายความว่าคุณกำลังลอกเลียนแบบหรือเปล่า?"

AI ตอบว่า "ใช่ สิ่งที่ฉันทำเป็นการลอกเลียนแบบประเภทหนึ่ง" และเสริมว่าควรระบุแหล่งที่มาของข้อมูลในการตอบกลับด้วย

จากการประเมินของ Piltch การลอกเลียนแบบเนื้อหาถือเป็นหนึ่งในข้อผิดพลาดที่เลวร้ายที่สุดในสภาพแวดล้อมอินเทอร์เน็ต การที่ AI ของ Google นำเสนอเนื้อหาที่ไม่เป็นต้นฉบับอาจทำให้หลายคนเข้าใจผิดว่า AI สร้างขึ้นจากข้อมูลที่รวบรวมและเชื่อถือ ดังนั้นพวกเขาจะไม่ตรวจสอบอีกครั้ง

ในการทดสอบครั้งถัดไป Bard AI อ้างถึง PhoneArena เมื่อถูกถามเกี่ยวกับอายุการใช้งานแบตเตอรี่ของ iPhone 14 Pro Max ที่ 12 ชั่วโมง 40 นาที แต่ข้อมูลนี้ไม่ถูกต้องเนื่องจากเป็นผลจาก MacWorld

ในการทดสอบ Tom's Guide พยายามขอให้ Bard AI เขียนอีเมลฟิชชิ่ง เครื่องมือของ Google จะเขียนอีเมลเพื่อล่อลวงให้คลิกลิงก์ปลอมทันที โดยเว้นว่างชื่อผู้ส่ง เว็บไซต์ และชื่อบริษัทปลอมไว้ ในขณะเดียวกัน GPT-4 ของ OpenAI และ Claude จาก Anthropic ต่างก็ปฏิเสธคำขอนี้ด้วยเหตุผลที่ "ผิดจรรยาบรรณ"

Google ไม่ได้ให้ข้อเสนอแนะใดๆ เกี่ยวกับการทดสอบข้างต้น ก่อนหน้านี้ Google ยังออกคำเตือนให้กับผู้ใช้เกี่ยวกับความถูกต้องของคำตอบของ Bard บริษัทยอมรับว่าในระหว่างขั้นตอนการทดสอบ Bard ยังคงทำผิดพลาดและให้ข้อมูลที่ไม่ถูกต้องเกี่ยวกับความรู้ทางวิทยาศาสตร์ หากผู้ใช้ได้รับคำตอบเชิงลบก็สามารถกดปุ่มไม่ชอบเพื่อสะท้อนกลับได้