Baidu는 AI가 인간의 언어를 이해하도록 가르치는 데 Microsoft와 Google을 이겼습니다.

중국의 검색 대기업 바이두(Baidu)가 세계 최고의 AI 모델을 대상으로 한 자연어 처리 경쟁에서 미국의 거대 기술 기업인 마이크로소프트(Microsoft)와 구글(Google)을 쉽게 이겼습니다.

GLUE(General Language Understanding Evaluation)는 AI 기반 자연어 이해 시스템을 훈련, 평가, 분석하는 데 사용되는 표준입니다. 인공 지능을 기반으로 자연어 처리 모델을 개발하는 조직은 GLUE 벤치마크 척도를 사용하여 모델을 평가할 수 있습니다.

최근까지 Microsoft의 MT-DNN-SMART 모델은 여전히 ​​전 세계 GLUE 순위에서 선두를 달리고 있었고 Google의 T3 모델이 그 뒤를 이었습니다. 하지만 최근 자연어 처리 대회에서 바이두의 ERNIE(Enhanced Representation through kNowledge IntEgration) 모델이 90.1점이라는 기록적인 점수로 MT-DNN-SMART와 T3를 모두 물리쳤기 때문에 이 순위는 큰 혼란을 겪었습니다.

처음에 Baidu의 모델은 중국어를 이해하기 위해 개발되었지만 연구자들은 곧 이 모델이 영어를 이해하는 데 탁월한 가능성을 깨달았습니다. Baidu의 ERNIE 훈련 방법은 BERT라는 Google의 "오래된" 언어 처리 모델 훈련 도구에서 많은 영감을 받았습니다. 따라서 각 훈련 세션에서 각 문장 문자열의 단어 중 15%가 숨겨지며, AI 작업은 맥락을 기반으로 숨겨진 단어를 최대한 가깝게 예측하려고 합니다. Baidu 연구팀은 Harry Potter 소설 시리즈에서 인용한 예를 들어 Github 페이지에 이 기술을 설명했습니다. 그 결과, ERNIE는 단어와 실체에 대한 암묵적 지식을 분석하여 해리포터와 JK 롤링의 관계를 추론해, 해리포터가 JK 롤링이 쓴 소설 시리즈라는 결론을 내릴 수 있었다.

Baidu 연구팀은 "언어 이해가 여전히 어려운 과제로 남아 있지만, ERNIE 프로젝트에 대한 우리의 결과는 멀티 태스킹과 지속적으로 훈련된 언어 처리 모델이 NLP 연구에 유망한 발전 방향임을 보여주었습니다."라고 말했습니다.

현재 바이두에서는 실무에 ERNIE 모델 적용을 추진하고 있다. 예: 현재 Baidu는 검색 엔진의 자동 질문 답변 기능에 ERNIE 모델을 사용하여 검색 결과에 대한 사용자 만족도가 16% 향상되었습니다.