챗봇이 자신의 언어로 서로 대화하기 때문에 당황하시나요? 이것이 진실이다

월요일, 페이스북이 챗봇이 자체 언어를 만든 후 이를 포기하겠다고 발표하면서 기술 세계의 흥분은 최고조에 달했습니다.

일부 신문에서는 이러한 프로그램을 “무섭다”고 표현했습니다. 일부 언론인들은 심지어 일부 초지능 AI가 "대화"하기 전에 페이스북 자체에 아이디어가 고갈됐다고 암시하기도 했습니다. 영국의 Sun 신문은 "기계가 장악하고 있는가?"를 알 것을 요구했습니다. 호주 TV 채널 인 세븐뉴스(Seven News) 도 이를 'AI 비상사태'라고 부른다. 대답은 '아니요'입니다.

이것은 단순히 두 개의 챗봇이 서로 정보를 교환하는 것입니다. 그들의 "대화"에 있는 코드 조각을 보면 언어 자체를 개발하는 것은커녕 그들이 말하는 언어가 무엇인지 파악하기도 어렵습니다.

챗봇의 정보교환 대화

이번 사건 이후 폭발적인 언론 보도와 AI에 대한 두려움은 페이스북의 프로젝트에서 비롯됐을지도 모른다. 이 소셜 네트워킹 거대 기업의 연구원들은 두 개의 챗봇에게 대화를 통해 서로 대화하는 방법을 가르치려고 했습니다. 목표는 봇에게 보다 효과적으로 계획하고 의사소통하는 방법을 가르치는 것입니다.

그들이 말도 안 되는 말을 해도 AI가 충돌하거나 죽지 않습니다. 대신, 우리는 봇이 인간처럼 말할 수 있도록 소프트웨어 오류를 찾아 수정하고, 연구자들은 연구 결과를 발표할 수 있습니다.

Carnegie Mellon University의 기계 학습 조교수인 Zachary Lipton은 The Register에 "이 작업은 매우 흥미롭습니다."라고 말했습니다. 그러나 이는 Google이 보드 게임을 할 때 사용하는 것과 같은 정적 모델이거나 사용자가 어떤 단어를 쓸지 예측하기 위해 휴대폰에서 사용하는 것과 같습니다. 국수 한 그릇이나 신발 한 켤레보다 더 높은 인지 능력은 없습니다."

챗봇이 실제로 새로운 언어로 서로 대화할 수 있나요?

말할 수 있는 봇은 새롭거나 신비한 현상이 아닙니다. OpenAI 연구원들은 강제로 의사소통하고 협력해야 할 때 모스 부호와 같은 것을 통해 대화할 수 있다는 것을 발견했습니다.

McGill University의 PhD 학생이자 OpenAI의 PhD 학생인 Ryan Lowe는 이것이 "매우 정상적인 현상"이며 "걱정할 것이 없습니다"라고 말했습니다.

그는 “멀티봇 환경이 있을 때 서로 대화할 때 더 효과적”이라며 “그들의 작업은 매우 제한적이고 그들이 사용하는 언어도 이를 반영하며 매우 단순하고 실제 언어와 결코 닮지 않는다”고 말했다. . 언어에는 특정한 구문과 문법 체계가 있습니다. 명시적으로 가르치지 않으면 그것이 생산하는 것은 언어와 닮을 수 없습니다.”

개미가 코끼리로 변하다

AI에 관한 루머와 과장된 정보가 많이 등장한다. AI 분야로 전환하여 제품이 머신러닝을 사용한다고 말하면 많은 돈을 벌 수 있습니다. 이는 선정적인 뉴스를 전문적으로 취재하는 저널리스트에게만 문제가 되는 것이 아니라 거대 기술 기업들도 매우 알레르기 반응을 보이며 블로그 게시물에 "상상력", "직관", "이성"과 같은 단어를 자주 사용합니다.

Lipton은 “이 일에 책임이 있는 또 다른 사람은 많은 과학자들이 수년 동안 실현할 수 없다고 생각했던 획기적인 프로젝트를 열정적으로 실행하는 대기업의 연구 부서입니다.”라고 말했습니다.

페이스북은 최근 "AI 개선에 초점을 맞춘 전략과 캠페인을 개발하고 실행하는 데 도움을 주기 위해 AI 편집자 자리에 대한 채용 광고를 게시했습니다. Amazon, Microsoft, OpenAI, Google Brain 및 DeepMind와 같은 회사는 모두 AI의 최신 개발을 설명하는 기사를 발표합니다.

Lipton은 “작가는 똑똑하고 선의가 있을 수 있지만 여기에는 문제가 있습니다. 그들이 하는 일은 저널리즘처럼 느껴지지만 저널리즘은 아니지만 객관성을 가져오려는 시도도 없고 회의적인 시각이나 심층적인 분석도 하지 않습니다."