ใช้ AI เพื่อตรวจจับข่าวปลอมที่สร้างโดย AI

เมื่อเร็วๆ นี้ นักวิจัยจากมหาวิทยาลัยฮาร์วาร์ดและห้องปฏิบัติการ AI-MIT Watson ของ MIT ได้สร้างเครื่องมือ GLTR (ห้องทดสอบแบบจำลองภาษายักษ์ - ห้องทดสอบแบบจำลองภาษายักษ์) เพื่อตรวจจับอคติของข้อมูลที่ถูกสร้างขึ้นจาก AI โดยใช้ปัญญาประดิษฐ์เอง

เครื่องมือ GLTR เข้าใจวิธีการทำงานของ AI อย่างชัดเจน จากนั้นจึงวิเคราะห์เนื้อหาข้อมูล เครื่องมือนี้ตรวจจับข่าวปลอมที่สร้างโดยเทคโนโลยี AI โดยการเน้นข้อความ ผู้อ่านสามารถติดตามความสามารถในการวิเคราะห์ของ GLTP ได้ในภาพประกอบด้านล่าง เมื่อเน้นคำด้วยสีเขียว จึงเป็นคำที่คาดเดาได้มากที่สุด สีแดงและสีเหลืองคาดเดาได้น้อยกว่า และสีม่วงเป็นคำที่คาดเดาได้น้อยที่สุด

นักวิทยาศาสตร์อาศัยสีในข้อความแต่ละชิ้นและการวิเคราะห์เพื่อประเมินความถูกต้องของข้อมูล ไม่ว่าจะถูกสร้างขึ้นโดยอัลกอริธึมหรือไม่ก็ตาม ข้อความที่เน้นด้วยสีแดง สีม่วง และสีเหลืองจะมีโอกาสน้อยที่จะถูกสร้างขึ้นโดย AI เนื่องจากการใช้คำที่ยากหลายคำ หากข้อความถูกปกคลุมไปด้วยสีน้ำเงินจำนวนมาก หมายความว่ามีคำทั่วไปหลายคำและมีแนวโน้มที่จะสร้างโดยบอท เครื่องมือนี้ช่วยเพิ่มอัตราการตรวจจับข้อความปลอมได้ประมาณ 72%

โดยพื้นฐานแล้ว ประโยคที่เขียนโดยโปรแกรมสร้างข้อความ AI อาจมีความถูกต้องตามหลักไวยากรณ์ แต่จะมีปัญหาด้านความหมายอย่างแน่นอน หรือในหลายกรณี แม้จะขาดความหมายที่แท้จริงก็ตาม ไม่ว่าจะด้วยเหตุผลใดก็ตาม

ในปัจจุบัน การใช้ AI และโมเดลการสร้างภาษาที่ไม่เป็นธรรมชาติเพื่อสร้างข่าวปลอมและเผยแพร่ข้อมูลเท็จเริ่มแพร่หลายมากขึ้นเรื่อยๆ ส่งผลให้เกิดผลกระทบร้ายแรงต่อสังคม ข้อความปลอมเหล่านี้บางครั้งมีความซับซ้อนอย่างมาก ทำให้ยากสำหรับผู้อ่านที่จะตระหนักว่าข้อความเหล่านี้เขียนด้วยเครื่องจักรแทนที่จะเป็นมนุษย์ ในขณะเดียวกัน เครื่องมือ GLTR ก็มีความสามารถในการแยกแยะข้อความปลอมประเภทข้างต้นได้อย่างแม่นยำ ซึ่งทำหน้าที่เป็นเครื่องมือ AI "ศัตรูธรรมชาติ" ที่มีประสิทธิภาพ นั่นคือแนวคิดหลักของนักวิจัยในโครงการ GLTR นี้ด้วย

ความคิดริเริ่มที่คล้ายกับ GLTR ควรได้รับการส่งเสริมและใช้กันอย่างแพร่หลายในทางปฏิบัติเร็วๆ นี้ สิ่งเหล่านี้มีคุณค่าไม่เพียงแต่ในการตรวจจับข้อความปลอมเท่านั้น แต่ยังมีบทบาทที่มีประสิทธิภาพเป็นพิเศษในการระบุบอท Twitter ซึ่งมักใช้เพื่อขัดขวางการเลือกตั้งในสหรัฐอเมริกาและประเทศอื่น ๆ อีกมากมาย ครอบครัวอื่น

การใช้ AI ในการตรวจจับ AI ถือเป็นมาตรการ "ศัตรูธรรมชาติ" ที่มีประสิทธิภาพ

ก่อนที่ GLTR จะถือกำเนิด มีเครื่องมือการจดจำโดยใช้ AI ที่ใช้กันอย่างแพร่หลายและมีประสิทธิภาพค่อนข้างมากที่เรียกว่า Botometer โดยพื้นฐานแล้ว Botometer ใช้เทคนิคการเรียนรู้ของเครื่องเพื่อพิจารณาว่าบัญชีใดดำเนินการโดยมนุษย์หรืออัลกอริธึมซอฟต์แวร์ เครื่องมือนี้สามารถระบุบัญชีบอทและบัญชีปลอมที่ไม่ได้ดำเนินการโดยมนุษย์ด้วยความแม่นยำสูงถึง 95%

อีกครั้งหนึ่งที่ได้มีการชี้ให้เห็นและเน้นย้ำถึงความจำเป็นในการสร้างระบบ AI-มนุษย์ที่ทำงานร่วมกันเพื่อแก้ไขปัญหาทางเทคโนโลยี/สังคมทั่วไป นี่เป็นงานที่ยากแต่เร่งด่วนอย่างยิ่งสำหรับมนุษยชาติในยุคดิจิทัลและปัญญาประดิษฐ์ในปัจจุบัน

ดูเพิ่มเติม:

• ปัญญาประดิษฐ์สามารถเขียนบทความทั้งหมดได้จากข้อมูลเพียงไม่กี่ชิ้น
• AI ได้สร้างใบหน้าที่ดูเหมือนคนจริง รถปลอม บ้าน หรือแม้แต่สัตว์
• ปัญญาประดิษฐ์เรียนรู้วิธีสร้างปัญญาประดิษฐ์ขึ้นมาแทนที่มนุษย์ในอนาคต
• 6 ขั้นตอนในการเริ่มเรียนรู้การเขียนโปรแกรมปัญญาประดิษฐ์ (AI)