Паника, потому что чат-боты разговаривают друг с другом на их родном языке? Это правда

В понедельник волнение в мире технологий достигло своего апогея, когда Facebook объявил, что откажется от чат-ботов после того, как они создадут свой собственный язык.

Некоторые газеты назвали эти программы «страшными». Некоторые журналисты даже намекнули, что у самого Facebook закончились идеи, прежде чем «заговорил» какой-то сверхразумный ИИ. Британская газета Sun потребовала знать: «Машины берут верх?». Австралийский телеканал Seven News также называет это «чрезвычайной ситуацией в области искусственного интеллекта». И ответ нет.

Это просто два чат-бота, обменивающиеся информацией друг с другом. Глядя на фрагменты кода в их «разговоре», сложно понять, на каком языке они говорят, не говоря уже о том, чтобы самим разработать язык.

Диалог обмена информацией чат-бота

Взрывная пресса и страх перед ИИ после этого инцидента, возможно, возникли из-за проекта Facebook. Исследователи этого гиганта социальных сетей пытались научить двух чат-ботов использовать диалог для общения друг с другом. Цель — научить бота более эффективно планировать и общаться.

Когда они говорят чепуху, ни один ИИ не разбивается и не погибает. Вместо этого мы находим ошибки в программном обеспечении и исправляем их, чтобы боты могли говорить больше как люди, а исследователи могли представлять результаты своих исследований.

«Эта работа очень интересна», — рассказал The Register Закари Липтон, доцент кафедры машинного обучения в Университете Карнеги-Меллон . Но это статические модели, вроде тех, которые Google использует для игры в настольные игры или ваш телефон, чтобы предсказать, какие слова вы напишете. У них нет более высоких когнитивных способностей, чем у тарелки лапши или пары туфель».

Могут ли чат-боты действительно общаться друг с другом на новых языках?

Боты, которые могут говорить, не являются чем-то новым или загадочным явлением. Исследователи из OpenAI обнаружили, что они могут разговаривать с помощью чего-то вроде азбуки Морзе, когда вынуждены общаться и работать вместе.

Райан Лоу, аспирант Университета Макгилла и аспирант OpenAI, сказал, что это «очень нормальное явление» и «не о чем беспокоиться».

«Всякая среда, состоящая из нескольких ботов, более эффективна, когда они разговаривают друг с другом», — сказал он. «Их задачи очень ограничены, и язык, который они используют, отражает это, он очень прост и никогда не похож на реальный язык. . Язык имеет определенный синтаксис и грамматическую систему. Если этому не обучать явно, то то, что оно производит, не сможет напоминать язык».

Муравей превращается в слона

Слухов и преувеличенной информации об ИИ появляется много. Переключение на сферу искусственного интеллекта и заявление о том, что ваш продукт использует машинное обучение, может принести много денег. Это проблема не только журналистов, которые специализируются на поиске сенсационных новостей, технологические гиганты также очень аллергичны и часто используют в сообщениях в блогах такие слова, как «воображение», «интуиция», «разум».

«За это ответственны исследовательские отделы крупных компаний, с энтузиазмом реализующие новаторские проекты, которые многие учёные считали невозможными в течение многих лет», — сказал Липтон.

Facebook недавно опубликовал объявление о наборе на должность редактора ИИ, которая поможет «разрабатывать и реализовывать стратегии и кампании, направленные на улучшение их ИИ». Такие компании, как Amazon, Microsoft, OpenAI, Google Brain и DeepMind, выпускают статьи, в которых описываются последние разработки в области искусственного интеллекта.

«Писатели могут быть умными и благонамеренными, — сказал Липтон, — но здесь есть проблема. То, что они делают, хотя и похоже на журналистику, на самом деле не является попыткой привнести объективность и не имеет скептического взгляда или глубокого анализа».