¿Pánico porque los chatbots hablan entre sí en su propio idioma? Esta es la verdad

El lunes, el entusiasmo del mundo de la tecnología alcanzó su punto máximo cuando Facebook anunció que abandonaría los chatbots después de que crearan su propio lenguaje.

Algunos periódicos han calificado estos programas de “aterradores”. Algunos periodistas incluso insinuaron que el propio Facebook se había quedado sin ideas antes de que alguna IA superinteligente "hablara". El periódico británico Sun preguntó: "¿Las máquinas están tomando el control?". El canal de televisión australiano Seven News también llama a esto una "emergencia de IA". Y la respuesta es no.

Se trata simplemente de dos chatbots que intercambian información entre sí. Al observar los fragmentos de código en su "conversación", es difícil ver qué idioma están hablando, y mucho menos desarrollar el idioma ellos mismos.

Conversación de intercambio de información del Chatbot.

La prensa explosiva y el miedo a la IA después de este incidente pueden tener su origen en el proyecto de Facebook. Los investigadores de este gigante de las redes sociales intentaron enseñar a dos chatbots a utilizar la conversación para hablar entre sí. El objetivo es enseñar al robot cómo planificar y comunicarse de forma más eficaz.

Cuando dicen tonterías, ninguna IA se estrella o muere. En cambio, encontramos errores de software y los corregimos para que los robots puedan hablar más como humanos y los investigadores puedan presentar los resultados de sus investigaciones.

"Este trabajo es muy emocionante", dijo a The Register Zachary Lipton, profesor asistente de Aprendizaje Automático en la Universidad Carnegie Mellon . Pero estos son modelos estáticos, como los que usa Google para jugar juegos de mesa o los que usa tu teléfono para predecir qué palabras escribirás. No tienen mayor capacidad cognitiva que un plato de fideos o un par de zapatos".

¿Pueden los chatbots realmente conversar entre sí en nuevos idiomas?

Los robots que pueden hablar no son un fenómeno nuevo ni misterioso. Los investigadores de OpenAI descubrieron que pueden hablar a través de algo como el código Morse cuando se ven obligados a comunicarse y trabajar juntos.

Ryan Lowe, estudiante de doctorado en la Universidad McGill y estudiante de doctorado en OpenAI, dijo que este es un "fenómeno muy normal" y "no hay nada de qué preocuparse".

“Siempre que hay un entorno de múltiples robots, es más efectivo cuando hablan entre ellos”, dijo, “sus tareas son muy limitadas y el lenguaje que usan lo refleja, es muy simple y nunca se parece al lenguaje real. . El lenguaje tiene una determinada sintaxis y sistema gramatical. Si no se enseña explícitamente, lo que produce no puede parecerse al lenguaje”.

La hormiga se convierte en elefante.

Aparecen muchos rumores e información exagerada sobre la IA. Cambiar al campo de la IA y decir que su producto utiliza Machine Learning puede generar mucho dinero. Esto no es sólo un problema para los periodistas que se especializan en encontrar noticias sensacionalistas, los gigantes de la tecnología también son muy alérgicos y suelen utilizar palabras como "imaginación", "intuición", "razón" en sus publicaciones de blog.

"Otro responsable de esto son los departamentos de investigación de las grandes empresas, que implementan con entusiasmo proyectos innovadores que muchos científicos pensaban que no podrían realizarse durante muchos años", dijo Lipton.

Facebook publicó recientemente un anuncio de contratación para un puesto de editor de IA para ayudar a "desarrollar y ejecutar estrategias y campañas centradas en mejorar su IA". Empresas como Amazon, Microsoft, OpenAI, Google Brain y DeepMind publican artículos que describen los últimos avances en IA.

“Los escritores pueden ser inteligentes y bien intencionados”, dijo Lipton, “pero aquí hay un problema. Lo que hacen, aunque parezca periodismo, no lo es, no pretende aportar objetividad ni tiene una visión escéptica ni un análisis en profundidad."