Recientemente, investigadores de la Universidad de Harvard y el laboratorio AI-MIT Watson del MIT crearon la herramienta GLTR (Giant Language Model Test Room - Giant Language Model Test Room) para detectar el sesgo de información que se realiza a partir de la IA, utilizando la propia inteligencia artificial.
La herramienta GLTR comprende claramente cómo funciona la IA y luego analiza el contenido de la información. Esta herramienta detecta noticias falsas creadas por tecnología de inteligencia artificial resaltando un fragmento de texto. Los lectores pueden seguir las capacidades analíticas de GLTP en la siguiente ilustración. Las palabras resaltadas en verde son las más predecibles, el rojo y el amarillo son menos predecibles y el morado es el menos predecible.
Los científicos se basan en los colores de cada fragmento de texto y en el análisis para evaluar la autenticidad de la información, ya sea que haya sido creada mediante algoritmos o no. Será menos probable que la IA genere el texto resaltado en rojo, morado y amarillo debido al uso de muchas palabras difíciles. Si el texto está cubierto de mucho azul, significa que hay muchas palabras comunes y probablemente hayan sido creadas por un bot. Esta herramienta ayuda a aumentar la tasa de detección de texto falso en aproximadamente un 72%.
Esencialmente, las oraciones escritas por un generador de texto de IA pueden ser gramaticalmente correctas, pero ciertamente tendrán problemas semánticos o, en muchos casos, incluso carecerán de significado real.
Actualmente, el uso de IA y modelos de generación de lenguaje antinatural para crear noticias falsas y difundir información falsa es cada vez más común, lo que tiene graves consecuencias para la sociedad. Estos textos falsos a veces son extremadamente elaborados, lo que dificulta que los lectores se den cuenta de que fueron escritos por una máquina en lugar de por un humano. Mientras tanto, la herramienta GLTR está equipada con la capacidad de distinguir con precisión el tipo de texto falso mencionado anteriormente, actuando como una eficaz herramienta de inteligencia artificial para "enemigos naturales". Esa es también la idea central de los investigadores de este proyecto GLTR.
Pronto se deberían promover y utilizar ampliamente en la práctica iniciativas similares a GLTR. Son valiosos no sólo para detectar textos falsos, sino que también desempeñan un papel particularmente eficaz en la identificación de bots de Twitter, que a menudo se utilizan para perturbar elecciones en Estados Unidos y muchos otros países de otra familia.
El uso de la propia IA para detectar IA es una medida eficaz contra el "enemigo natural"
Antes de que naciera GLTR, existía una herramienta de reconocimiento basada en IA relativamente eficaz y ampliamente utilizada llamada Botometer. Básicamente, Botometer utiliza técnicas de aprendizaje automático para determinar si una cuenta está siendo operada por un humano o por un algoritmo de software. Esta herramienta es capaz de identificar cuentas de bots y cuentas falsas que no son operadas por humanos con una precisión de hasta el 95%.
Una vez más, se señala y enfatiza la necesidad de crear sistemas colaborativos entre IA y humanos para resolver problemas tecnológicos/sociales comunes. Esta es una tarea difícil, pero extremadamente urgente, para la humanidad en la actual era digital y de inteligencia artificial.
Ver más:
Una cadena de restaurantes de sushi japonesa llamada Dentsu Inc acaba de desarrollar con éxito una aplicación llamada Tuna Scope, que utiliza IA para evaluar la calidad del atún con un alto nivel de precisión, no inferior al de los chefs más experimentados.
Slack ha adoptado el modelo de negocio SaaS y ofrece varios planes diferentes para satisfacer las necesidades de su organización. He aquí un breve recorrido por las opciones.
Descubre Claude Pro, la versión premium de Claude AI Chatbot, y cómo se compara con ChatGPT Plus, optimizando tu experiencia en inteligencia artificial.
El organismo que une a los organismos nacionales de vigilancia de la privacidad de Europa dijo el jueves que había creado un grupo de trabajo dedicado a ChatGPT.
Científicos daneses y estadounidenses han colaborado para desarrollar un sistema de inteligencia artificial llamado life2vec, capaz de predecir el momento de la muerte humana con gran precisión.
Un algoritmo de inteligencia artificial llamado Audioflow puede escuchar el sonido de la micción para identificar de manera efectiva y exitosa los flujos anormales y los correspondientes problemas de salud del paciente.
El envejecimiento y la disminución de la población de Japón han dejado al país sin un número significativo de trabajadores jóvenes, especialmente en el sector de servicios.
Un usuario de Reddit llamado u/LegalBeagle1966 es uno de los muchos usuarios enamorados de Claudia, una chica con apariencia de estrella de cine que a menudo comparte seductores selfies, incluso desnudos, en esta plataforma.
Microsoft acaba de anunciar que 12 empresas tecnológicas más participarán en su programa AI for Good.
El usuario @mortecouille92 ha puesto a trabajar el poder de la herramienta de diseño gráfico Midjourney y ha creado versiones excepcionalmente realistas de personajes famosos de Dragon Ball como Goku, Vegeta, Bulma y el anciano Kame. .
