فازت شركة البحث الصينية العملاقة بايدو بسهولة على شركتي التكنولوجيا الأميركيتين العملاقتين مايكروسوفت وجوجل في مسابقة معالجة اللغة الطبيعية لنماذج الذكاء الاصطناعي الرائدة في العالم.
تقييم فهم اللغة العامة (GLUE) هو المعيار المستخدم لتدريب وتقييم وتحليل أنظمة فهم اللغة الطبيعية القائمة على الذكاء الاصطناعي. يمكن للمنظمات التي تقوم بتطوير نماذج معالجة اللغة الطبيعية بناءً على الذكاء الاصطناعي تقييم نماذجها باستخدام مقياس GLUE القياسي.
حتى وقت قريب، كان نموذج MT-DNN-SMART من Microsoft لا يزال الاسم الرائد في تصنيفات GLUE العالمية، يليه نموذج T3 من Google. ومع ذلك، فقد تعرض هذا التصنيف للتو لاضطراب كبير لأنه في المنافسة الأخيرة لمعالجة اللغة الطبيعية، هزم نموذج ERNIE (التمثيل المعزز من خلال تكامل المعرفة) من Baidu كلاً من MT-DNN-SMART وT3 بنتيجة قياسية بلغت 90.1.

في البداية، تم تطوير نموذج بايدو لفهم اللغة الصينية، لكن سرعان ما أدرك الباحثون الوعد الممتاز الذي يقدمه النموذج لفهم اللغة الإنجليزية. إن طريقة تدريب ERNIE الخاصة بشركة Baidu مستوحاة بشكل كبير من أداة تدريب نموذج معالجة اللغة "القديمة" من Google والتي تسمى BERT. وبناء على ذلك، سيتم إخفاء 15% من الكلمات في كل سلسلة جملة في كل جلسة تدريبية، وتحاول مهمة الذكاء الاصطناعي التنبؤ بالكلمات المخفية بأكبر قدر ممكن بناءً على السياق. وقد أوضح فريق البحث في بايدو هذه التقنية على صفحة جيثب الخاصة بهم مع أمثلة مستشهد بها من سلسلة روايات هاري بوتر. ونتيجة لذلك، تمكن إيرني من استقراء العلاقة بين هاري بوتر وجي كيه رولينج من خلال تحليل المعرفة الضمنية بالكلمات والكيانات، ليستنتج أن هاري بوتر عبارة عن سلسلة من الروايات كتبها جي كيه رولينج.
"على الرغم من أن فهم اللغة لا يزال يمثل تحديًا كبيرًا، فقد أظهرت نتائجنا لمشروع ERNIE أن نماذج معالجة اللغة متعددة المهام والمدربة باستمرار هي الطريق إلى الأمام. واعدة لأبحاث البرمجة اللغوية العصبية،" علق فريق البحث في بايدو.
حاليًا، تعمل بايدو على الترويج لتطبيق نموذج إرني للمهام العملية. على سبيل المثال: تستخدم بايدو حاليًا نموذج ERNIE لميزة الإجابة التلقائية على الأسئلة في محرك البحث الخاص بها، مما أدى إلى تحسن بنسبة 16% في رضا المستخدم عن نتائج البحث.