Baidu depășește Microsoft și Google în predarea inteligenței artificiale pentru a înțelege limbajul uman

Gigantul chinez de căutare Baidu a învins cu ușurință doi giganți americani de tehnologie Microsoft și Google într-o competiție de procesare a limbajului natural a celor mai importante modele AI din lume.

Evaluarea generală a înțelegerii limbajului (GLUE) este standardul folosit pentru a instrui, evalua și analiza sistemele de înțelegere a limbajului natural bazate pe inteligență artificială. Organizațiile care dezvoltă modele de procesare a limbajului natural bazate pe inteligența artificială își pot evalua modelele folosind scara de referință GLUE.

Până de curând, modelul Microsoft MT-DNN-SMART era încă numele lider în clasamentul global GLUE, urmat de modelul T3 al Google. Cu toate acestea, acest clasament tocmai a avut o perturbare majoră deoarece în recenta competiție de procesare a limbajului natural, modelul ERNIE (Enhanced Representation through Knowledge IntEgration) al lui Baidu a învins atât MT-DNN-SMART, cât și T3 cu un scor record de 90,1.

Inițial, modelul lui Baidu a fost dezvoltat pentru a înțelege limba chineză, dar cercetătorii și-au dat seama curând de promisiunea excelentă a modelului pentru înțelegerea limbii engleze. Metoda de instruire ERNIE de la Baidu este puternic inspirată de instrumentul de formare al modelului de procesare a limbajului „vechi” de la Google, numit BERT. În consecință, 15% dintre cuvintele din fiecare șir de propoziție vor fi ascunse la fiecare sesiune de antrenament, sarcina AI încearcă să prezică cuvintele ascunse cât mai aproape posibil, în funcție de context. Echipa de cercetare Baidu a ilustrat această tehnică pe pagina Github cu exemple citate din seria de romane Harry Potter. Drept urmare, ERNIE a reușit să extrapoleze relația dintre Harry Potter și JK Rowling analizând cunoștințele tacite despre cuvinte și entități, pentru a concluziona că Harry Potter este o serie de romane scrise de JK Rowling.

„În timp ce înțelegerea limbajului rămâne o provocare descurajantă, rezultatele noastre pentru proiectul ERNIE au arătat că modelele de procesare a limbajului multitasking și antrenate continuu sunt calea de urmat. Promițătoare pentru cercetarea NLP”, a comentat echipa de cercetare Baidu.

În prezent, Baidu promovează aplicarea modelului ERNIE pentru sarcini practice. De exemplu: În prezent, Baidu folosește modelul ERNIE pentru funcția de răspuns automat la întrebări în motorul său de căutare, ceea ce duce la o îmbunătățire cu 16% a satisfacției utilizatorilor cu rezultatele căutării.