Use a própria IA para detectar notícias falsas criadas pela IA

Recentemente, pesquisadores da Universidade de Harvard e do laboratório AI-MIT Watson do MIT criaram a ferramenta GLTR (Giant Language Model Test Room – Sala de Teste de Modelo de Linguagem Gigante) para detectar vieses de informação feitos a partir da IA, utilizando a própria inteligência artificial.

A ferramenta GLTR entende claramente como a IA funciona e então analisa o conteúdo da informação. Esta ferramenta detecta notícias falsas criadas pela tecnologia de IA, destacando um trecho de texto. Os leitores podem acompanhar as capacidades analíticas do GLTP na ilustração abaixo. Com as palavras destacadas em verde, elas são as mais previsíveis, o vermelho e o amarelo são menos previsíveis e o roxo é o menos previsível.

Os cientistas contam com as cores de cada trecho de texto e análises para avaliar a autenticidade da informação, seja ela criada por algoritmos ou não. O texto destacado em vermelho, roxo e amarelo terá menos probabilidade de ser gerado pela IA devido ao uso de muitas palavras difíceis. Se o texto estiver muito azul, significa que há muitas palavras comuns e provavelmente foram criadas por um bot. Esta ferramenta ajuda a aumentar a taxa de detecção de texto falso em cerca de 72%.

Essencialmente, as frases escritas por um gerador de texto de IA podem ser gramaticalmente corretas, mas certamente terão problemas semânticos ou, em muitos casos, até mesmo carecerão de qualquer significado real.

Atualmente, o uso de IA e de modelos de geração de linguagem não natural para criar notícias falsas e difundir informações falsas está se tornando cada vez mais comum, trazendo sérias consequências para a sociedade. Esses textos falsos são às vezes extremamente elaborados, tornando difícil para os leitores perceberem que foram escritos por uma máquina e não por um ser humano. Enquanto isso, a ferramenta GLTR está equipada com a capacidade de distinguir com precisão o tipo de texto falso acima, agindo como uma ferramenta de IA eficaz de “inimigo natural”. Essa também é a ideia central dos pesquisadores deste projeto GLTR.

Iniciativas semelhantes ao GLTR deverão ser promovidas e amplamente utilizadas na prática em breve. Eles são valiosos não apenas na detecção de textos falsos, mas também desempenham um papel particularmente eficaz na identificação de bots do Twitter, que são frequentemente usados ​​para perturbar eleições nos Estados Unidos e em muitos outros países.

Usar a própria IA para detectar IA é uma medida eficaz de “inimigo natural”

Antes do nascimento do GLTR, havia uma ferramenta de reconhecimento baseada em IA amplamente utilizada e relativamente eficaz, chamada Botometer. Essencialmente, o Botometer usa técnicas de aprendizado de máquina para determinar se alguma conta está sendo operada por um humano ou por um algoritmo de software. Esta ferramenta é capaz de identificar contas de bots e contas falsas que não são operadas por humanos com uma precisão de até 95%.

Mais uma vez, a necessidade de criar sistemas colaborativos de IA-humanos para resolver problemas tecnológicos/sociais comuns é apontada e enfatizada. Esta é uma tarefa difícil, mas extremamente urgente para a humanidade na atual era da inteligência digital e artificial.

Ver mais:

• A inteligência artificial já pode escrever um artigo inteiro a partir de apenas algumas informações
• A IA criou rostos que parecem pessoas reais, carros, casas e até animais falsos
• A inteligência artificial aprende como criar outra inteligência artificial, substituindo os humanos no futuro
• 6 etapas para começar a aprender programação de inteligência artificial (IA)