Baidu опережает Microsoft и Google в обучении ИИ понимать человеческий язык

Китайский поисковый гигант Baidu легко победил двух американских технологических гигантов Microsoft и Google в соревновании ведущих мировых моделей искусственного интеллекта по обработке естественного языка.

Общая оценка понимания языка (GLUE) — это стандарт, используемый для обучения, оценки и анализа систем понимания естественного языка на основе искусственного интеллекта. Организации, разрабатывающие модели обработки естественного языка на основе искусственного интеллекта, могут оценивать свои модели с помощью эталонной шкалы GLUE.

До недавнего времени модель MT-DNN-SMART от Microsoft по-прежнему лидировала в глобальном рейтинге GLUE, за ней следовала модель T3 от Google. Однако в этом рейтинге только что произошли серьезные изменения, поскольку в недавнем конкурсе по обработке естественного языка модель ERNIE (расширенное представление посредством интеграции знаний) от Baidu победила и MT-DNN-SMART, и T3 с рекордным баллом 90,1.

Первоначально модель Baidu была разработана для понимания китайского языка, но вскоре исследователи осознали превосходные возможности этой модели для понимания английского языка. Метод обучения ERNIE компании Baidu во многом основан на «старом» инструменте обучения модели языковой обработки Google под названием BERT. Соответственно, 15% слов в каждой строке предложения будут скрыты на каждом сеансе обучения, задача ИИ пытается максимально точно предсказать скрытые слова, исходя из контекста. Исследовательская группа Baidu проиллюстрировала эту технику на своей странице в Github, приведя примеры из серии романов о Гарри Поттере. В результате ЭРНИ смог экстраполировать отношения между Гарри Поттером и Дж. К. Роулинг, проанализировав неявное знание слов и сущностей, и прийти к выводу, что «Гарри Поттер» — это серия романов, написанных Дж. К. Роулинг.

«Хотя понимание языка остается сложной проблемой, наши результаты проекта ERNIE показали, что многозадачные и постоянно обучаемые модели обработки речи — это путь вперед, многообещающий для исследований НЛП», — прокомментировала исследовательская группа Baidu.

В настоящее время Baidu продвигает применение модели ERNIE для практических задач. Например: в настоящее время Baidu использует модель ERNIE для функции автоматического ответа на вопросы в своей поисковой системе, что привело к повышению удовлетворенности пользователей результатами поиска на 16%.