Baidu pokonuje Microsoft i Google w nauczaniu sztucznej inteligencji rozumienia ludzkiego języka

Chiński gigant wyszukiwarek Baidu z łatwością pokonał dwóch amerykańskich gigantów technologicznych Microsoft i Google w konkursie przetwarzania języka naturalnego wiodących na świecie modeli sztucznej inteligencji.

Ocena ogólnego zrozumienia języka (GLUE) to standard używany do szkolenia, oceny i analizowania systemów rozumienia języka naturalnego opartych na sztucznej inteligencji. Organizacje opracowujące modele przetwarzania języka naturalnego w oparciu o sztuczną inteligencję mogą ocenić swoje modele za pomocą skali porównawczej GLUE.

Do niedawna w światowych rankingach GLUE liderem był model MT-DNN-SMART firmy Microsoft, a tuż za nim plasował się model T3 firmy Google. Jednak w tym rankingu doszło do poważnych zakłóceń, ponieważ w niedawnym konkursie przetwarzania języka naturalnego model ERNIE (Enhanced Representation through kNowledge IntEgration) firmy Baidu pokonał zarówno MT-DNN-SMART, jak i T3, uzyskując rekordowy wynik 90,1.

Początkowo model Baidu został opracowany w celu zrozumienia języka chińskiego, ale badacze wkrótce zdali sobie sprawę, że model ten doskonale obiecuje zrozumienie języka angielskiego. Metoda uczenia ERNIE firmy Baidu jest w dużym stopniu inspirowana „starym” narzędziem szkoleniowym Google do modelowania przetwarzania języka o nazwie BERT. W związku z tym na każdej sesji szkoleniowej 15% słów w każdym ciągu zdań zostanie ukrytych, zadanie AI stara się jak najdokładniej przewidzieć ukryte słowa na podstawie kontekstu. Zespół badawczy Baidu zilustrował tę technikę na swojej stronie Github przykładami cytowanymi z serii powieści o Harrym Potterze. W rezultacie ERNIE był w stanie ekstrapolować związek między Harrym Potterem i J.K. Rowling, analizując cichą wiedzę dotyczącą słów i bytów, i doszedł do wniosku, że Harry Potter to seria powieści napisanych przez J.K. Rowling.

„Chociaż zrozumienie języka pozostaje zniechęcającym wyzwaniem, wyniki naszego projektu ERNIE pokazały, że wielozadaniowe i stale szkolone modele przetwarzania języka są rozwiązaniem przyszłościowym. Obiecujące dla badań nad NLP” – skomentował zespół badawczy Baidu.

Obecnie Baidu promuje zastosowanie modelu ERNIE do zadań praktycznych. Na przykład: Obecnie Baidu używa modelu ERNIE do funkcji automatycznego odpowiadania na pytania w swojej wyszukiwarce, co skutkuje 16% poprawą zadowolenia użytkowników z wyników wyszukiwania.