Baidu เอาชนะ Microsoft และ Google ในการสอน AI ให้เข้าใจภาษามนุษย์

Baidu ยักษ์ใหญ่ด้านการค้นหาของจีนเอาชนะ Microsoft และ Google ยักษ์ใหญ่ด้านเทคโนโลยีของอเมริกาอย่างง่ายดายในการแข่งขันการประมวลผลภาษาธรรมชาติของโมเดล AI ชั้นนำของโลก

การประเมินความเข้าใจภาษาทั่วไป (GLUE) เป็นมาตรฐานที่ใช้ในการฝึกอบรม ประเมิน และวิเคราะห์ระบบความเข้าใจภาษาธรรมชาติที่ใช้ AI องค์กรที่กำลังพัฒนาแบบจำลองการประมวลผลภาษาธรรมชาติโดยใช้ปัญญาประดิษฐ์สามารถประเมินแบบจำลองของตนได้โดยใช้มาตราส่วนเกณฑ์มาตรฐาน GLUE

จนกระทั่งเมื่อไม่นานมานี้ รุ่น MT-DNN-SMART ของ Microsoft ยังคงเป็นชื่อชั้นนำในการจัดอันดับ GLUE ทั่วโลก ตามมาด้วยรุ่น T3 ของ Google อย่างไรก็ตาม การจัดอันดับนี้เพิ่งเกิดความวุ่นวายครั้งใหญ่ เนื่องจากในการแข่งขันการประมวลผลภาษาธรรมชาติเมื่อเร็วๆ นี้ โมเดล ERNIE (การเป็นตัวแทนขั้นสูงผ่านความรู้ IntEgration) ของ Baidu เอาชนะทั้ง MT-DNN-SMART และ T3 ด้วยคะแนนเป็นประวัติการณ์ที่ 90.1

ในตอนแรก แบบจำลองของไป่ตู้ได้รับการพัฒนาเพื่อให้เข้าใจภาษาจีน แต่ในไม่ช้า นักวิจัยก็ตระหนักถึงคำมั่นสัญญาอันดีเยี่ยมของแบบจำลองในการทำความเข้าใจภาษาอังกฤษ วิธีการฝึกอบรม ERNIE ของ Baidu ได้รับแรงบันดาลใจอย่างมากจากเครื่องมือฝึกอบรมโมเดลการประมวลผลภาษา "เก่า" ของ Google ที่เรียกว่า BERT ดังนั้น 15% ของคำในแต่ละสตริงจะถูกซ่อนในแต่ละเซสชันการฝึกอบรม งาน AI จะพยายามคาดเดาคำที่ซ่อนอยู่ให้ใกล้เคียงที่สุดตามบริบท ทีมวิจัยของ Baidu ได้แสดงเทคนิคนี้บนหน้า Github พร้อมตัวอย่างที่อ้างอิงจากนวนิยายชุดแฮร์รี่ พอตเตอร์ ด้วยเหตุนี้ เออร์นีจึงสามารถคาดเดาความสัมพันธ์ระหว่างแฮร์รี่ พอตเตอร์กับเจเค โรว์ลิงได้โดยการวิเคราะห์ความรู้โดยปริยายของคำศัพท์และตัวตน เพื่อสรุปว่าแฮร์รี่ พอตเตอร์เป็นชุดนวนิยายที่เขียนโดยเจเค โรว์ลิง

“แม้ว่าความเข้าใจภาษายังคงเป็นความท้าทายที่น่ากังวล แต่ผลลัพธ์ของเราสำหรับโครงการ ERNIE แสดงให้เห็นว่าโมเดลการประมวลผลภาษาแบบมัลติทาสก์และได้รับการฝึกอบรมอย่างต่อเนื่องเป็นหนทางข้างหน้า มีแนวโน้มสำหรับการวิจัย NLP” ทีมวิจัยของ Baidu ให้ความเห็น

ปัจจุบัน Baidu กำลังส่งเสริมการใช้โมเดล ERNIE สำหรับงานภาคปฏิบัติ ตัวอย่างเช่น ปัจจุบัน Baidu ใช้โมเดล ERNIE สำหรับคุณลักษณะการตอบคำถามอัตโนมัติในเครื่องมือค้นหา ส่งผลให้ผู้ใช้พึงพอใจกับผลการค้นหาเพิ่มขึ้น 16%