Pânico porque os chatbots falam entre si na sua própria língua? Essa é a verdade

Na segunda-feira, a empolgação do mundo da tecnologia atingiu o auge quando o Facebook anunciou que abandonaria os chatbots depois que eles criassem sua própria linguagem.

Alguns jornais chamaram estes programas de “assustadores”. Alguns jornalistas até sugeriram que o próprio Facebook ficou sem ideias antes que alguma IA superinteligente “se manifestasse”. O jornal britânico Sun exigiu saber "As máquinas estão assumindo o controle?". O canal de televisão australiano Seven News também chama isso de “emergência de IA”. E a resposta é não.

São simplesmente dois chatbots trocando informações entre si. Olhando para os trechos de código em sua "conversa", é difícil ver que idioma eles estão falando, muito menos desenvolver a linguagem eles próprios.

Conversa de troca de informações do chatbot

A imprensa explosiva e o medo da IA ​​após este incidente podem ter origem no projeto do Facebook. Pesquisadores deste gigante das redes sociais tentaram ensinar dois chatbots a usar a conversa para conversar um com o outro. O objetivo é ensinar o bot a planejar e se comunicar de forma mais eficaz.

Quando eles falam bobagens, nenhuma IA cai ou morre. Em vez disso, encontramos erros de software e os corrigimos para que os bots possam falar mais como humanos e os pesquisadores possam apresentar os resultados de suas pesquisas.

“Este trabalho é muito emocionante”, disse Zachary Lipton, professor assistente de aprendizado de máquina na Carnegie Mellon University, ao The Register . Mas esses são modelos estáticos, como os que o Google usa para jogar jogos de tabuleiro ou o que seu telefone usa para prever quais palavras você escreverá. Eles não têm capacidade cognitiva superior à de uma tigela de macarrão ou de um par de sapatos."

Os chatbots podem realmente conversar entre si em novos idiomas?

Os bots que podem falar não são um fenômeno novo ou misterioso. Pesquisadores da OpenAI descobriram que podem falar através de algo como o código Morse quando forçados a se comunicar e trabalhar juntos.

Ryan Lowe, estudante de doutorado na Universidade McGill e estudante de doutorado na OpenAI, disse que este é um “fenômeno muito normal” e “nada com que se preocupar”.

“Sempre que existe um ambiente multi-bot, é mais eficaz quando eles conversam entre si”, disse ele, “Suas tarefas são muito limitadas e a linguagem que usam reflete isso, é muito simples e nunca se parece com a linguagem real . A linguagem possui um certo sistema de sintaxe e gramática. Se não for ensinado explicitamente, o que produz não pode assemelhar-se à linguagem.”

A formiga se transforma em elefante

Rumores e informações exageradas sobre IA aparecem muito. Mudar para o campo da IA ​​​​e dizer que seu produto usa aprendizado de máquina pode gerar muito dinheiro. Isso não é um problema apenas para jornalistas especializados em encontrar notícias sensacionais, os gigantes da tecnologia também são muito alérgicos e costumam usar palavras como “imaginação”, “intuição”, “razão” em postagens de blogs.

“Outro responsável por isso são os departamentos de pesquisa de grandes empresas, que implementam com entusiasmo projetos inovadores que muitos cientistas pensavam que não poderiam ser realizados durante muitos anos”, disse Lipton.

O Facebook postou recentemente um anúncio de recrutamento para um cargo de editor de IA para ajudar a “desenvolver e executar estratégias e campanhas focadas em melhorar sua IA”. Empresas como Amazon, Microsoft, OpenAI, Google Brain e DeepMind lançam artigos descrevendo os mais recentes desenvolvimentos em IA.

“Os escritores podem ser inteligentes e bem-intencionados”, disse Lipton, “mas há um problema aqui. O que eles estão fazendo, embora pareça jornalismo, não é, não fazem nenhuma tentativa de trazer objetividade nem têm uma visão cética ou uma análise aprofundada”.