Baidu vence Microsoft e Google no ensino de IA para entender a linguagem humana

O gigante de buscas chinês Baidu derrotou facilmente dois gigantes americanos da tecnologia, Microsoft e Google, em uma competição de processamento de linguagem natural dos principais modelos de IA do mundo.

A Avaliação Geral de Compreensão de Linguagem (GLUE) é o padrão usado para treinar, avaliar e analisar sistemas de compreensão de linguagem natural baseados em IA. As organizações que estão a desenvolver modelos de processamento de linguagem natural baseados em inteligência artificial podem avaliar os seus modelos utilizando a escala de referência GLUE.

Até recentemente, o modelo MT-DNN-SMART da Microsoft ainda era o nome líder no ranking global do GLUE, seguido pelo modelo T3 do Google. No entanto, esta classificação acaba de sofrer uma grande perturbação porque na recente competição de processamento de linguagem natural, o modelo ERNIE (Representação Aprimorada por meio de Integração de Conhecimento) do Baidu derrotou MT-DNN-SMART e T3 com uma pontuação recorde de 90,1.

Inicialmente, o modelo do Baidu foi desenvolvido para compreender a língua chinesa, mas os pesquisadores logo perceberam a excelente promessa do modelo para a compreensão do inglês. O método de treinamento ERNIE do Baidu é fortemente inspirado na "antiga" ferramenta de treinamento de modelo de processamento de linguagem do Google, chamada BERT. Conseqüentemente, 15% das palavras em cada sequência de frases serão ocultadas em cada sessão de treinamento, a tarefa de IA tenta prever as palavras ocultas o mais próximo possível com base no contexto. A equipe de pesquisa do Baidu ilustrou essa técnica em sua página do Github com exemplos citados da série de romances Harry Potter. Como resultado, ERNIE conseguiu extrapolar a relação entre Harry Potter e JK Rowling analisando o conhecimento tácito de palavras e entidades, para concluir que Harry Potter é uma série de romances escritos por JK Rowling.

“Embora a compreensão da linguagem continue sendo um desafio assustador, nossos resultados para o projeto ERNIE mostraram que modelos de processamento de linguagem multitarefa e continuamente treinados são o caminho a seguir. promissor para a pesquisa em PNL”, comentou a equipe de pesquisa do Baidu.

Atualmente, o Baidu está promovendo a aplicação do modelo ERNIE para tarefas práticas. Por exemplo: Atualmente, o Baidu está usando o modelo ERNIE para o recurso de resposta automática a perguntas em seu mecanismo de busca, resultando em uma melhoria de 16% na satisfação do usuário com os resultados da pesquisa.