Utilice la propia IA para detectar noticias falsas creadas por IA

Recientemente, investigadores de la Universidad de Harvard y el laboratorio AI-MIT Watson del MIT crearon la herramienta GLTR (Giant Language Model Test Room - Giant Language Model Test Room) para detectar el sesgo de información que se realiza a partir de la IA, utilizando la propia inteligencia artificial.

La herramienta GLTR comprende claramente cómo funciona la IA y luego analiza el contenido de la información. Esta herramienta detecta noticias falsas creadas por tecnología de inteligencia artificial resaltando un fragmento de texto. Los lectores pueden seguir las capacidades analíticas de GLTP en la siguiente ilustración. Las palabras resaltadas en verde son las más predecibles, el rojo y el amarillo son menos predecibles y el morado es el menos predecible.

Los científicos se basan en los colores de cada fragmento de texto y en el análisis para evaluar la autenticidad de la información, ya sea que haya sido creada mediante algoritmos o no. Será menos probable que la IA genere el texto resaltado en rojo, morado y amarillo debido al uso de muchas palabras difíciles. Si el texto está cubierto de mucho azul, significa que hay muchas palabras comunes y probablemente hayan sido creadas por un bot. Esta herramienta ayuda a aumentar la tasa de detección de texto falso en aproximadamente un 72%.

Esencialmente, las oraciones escritas por un generador de texto de IA pueden ser gramaticalmente correctas, pero ciertamente tendrán problemas semánticos o, en muchos casos, incluso carecerán de significado real.

Actualmente, el uso de IA y modelos de generación de lenguaje antinatural para crear noticias falsas y difundir información falsa es cada vez más común, lo que tiene graves consecuencias para la sociedad. Estos textos falsos a veces son extremadamente elaborados, lo que dificulta que los lectores se den cuenta de que fueron escritos por una máquina en lugar de por un humano. Mientras tanto, la herramienta GLTR está equipada con la capacidad de distinguir con precisión el tipo de texto falso mencionado anteriormente, actuando como una eficaz herramienta de inteligencia artificial para "enemigos naturales". Esa es también la idea central de los investigadores de este proyecto GLTR.

Pronto se deberían promover y utilizar ampliamente en la práctica iniciativas similares a GLTR. Son valiosos no sólo para detectar textos falsos, sino que también desempeñan un papel particularmente eficaz en la identificación de bots de Twitter, que a menudo se utilizan para perturbar elecciones en Estados Unidos y muchos otros países de otra familia.

El uso de la propia IA para detectar IA es una medida eficaz contra el "enemigo natural"

Antes de que naciera GLTR, existía una herramienta de reconocimiento basada en IA relativamente eficaz y ampliamente utilizada llamada Botometer. Básicamente, Botometer utiliza técnicas de aprendizaje automático para determinar si una cuenta está siendo operada por un humano o por un algoritmo de software. Esta herramienta es capaz de identificar cuentas de bots y cuentas falsas que no son operadas por humanos con una precisión de hasta el 95%.

Una vez más, se señala y enfatiza la necesidad de crear sistemas colaborativos entre IA y humanos para resolver problemas tecnológicos/sociales comunes. Esta es una tarea difícil, pero extremadamente urgente, para la humanidad en la actual era digital y de inteligencia artificial.

Ver más:

• La inteligencia artificial ya puede escribir un artículo completo a partir de unos pocos datos
• La IA ha creado caras que parecen personas reales, coches, casas e incluso animales falsos.
• La inteligencia artificial aprende a crear otra inteligencia artificial que reemplace a los humanos en el futuro
• 6 pasos para empezar a aprender programación de inteligencia artificial (IA)