비즈니스 소프트웨어

AI 자체를 활용해 AI가 만든 가짜뉴스 탐지

GLTR 도구는 AI 자체를 사용하여 AI가 생성한 가짜 정보를 탐지합니다.

최근 하버드대학교 연구진과 MIT AI-MIT Watson 연구실에서는 인공지능 자체를 활용해 AI에서 만들어지는 정보 편향을 탐지하는 GLTR(Giant Language Model Test Room - Giant Language Model Test Room) 도구를 만들었습니다.

GLTR 도구는 AI의 작동 방식을 명확하게 이해한 다음 정보 내용을 분석합니다. 이 도구는 텍스트를 강조 표시하여 AI 기술로 생성된 가짜 뉴스를 탐지합니다. 독자는 아래 그림에서 GLTP의 분석 기능을 따를 수 있습니다. 녹색으로 강조 표시된 단어는 예측 가능성이 가장 높고, 빨간색과 노란색은 예측 가능성이 낮으며, 보라색은 예측 가능성이 가장 낮습니다.

AI 자체를 활용해 AI가 만든 가짜뉴스 탐지

과학자들은 알고리즘에 의해 생성되었는지 여부에 관계없이 정보의 신뢰성을 평가하기 위해 각 텍스트 및 분석의 색상에 의존합니다. 빨간색, 보라색, 노란색으로 강조 표시된 텍스트는 어려운 단어가 많이 사용되므로 AI가 생성할 가능성이 적습니다. 텍스트가 파란색으로 많이 덮여 있으면 일반적인 단어가 많고 봇에 의해 생성되었을 가능성이 높다는 의미입니다. 이 도구는 가짜 텍스트 탐지율을 약 72% 높이는 데 도움이 됩니다.

AI 자체를 활용해 AI가 만든 가짜뉴스 탐지

기본적으로 AI 텍스트 생성기가 작성한 문장은 문법적으로 정확할 수 있지만 확실히 의미론적 문제가 있거나 많은 경우 실제 의미가 부족합니다.

현재 AI와 부자연스러운 언어 생성 모델을 활용해 가짜 뉴스를 만들고 허위 정보를 유포하는 행위가 점점 보편화되어 사회에 심각한 결과를 초래하고 있습니다. 이러한 가짜 텍스트는 때로는 매우 정교하여 독자가 사람이 아닌 기계가 작성한 것임을 깨닫기 어렵습니다. 한편, GLTR 도구는 위의 유형의 가짜 텍스트를 정확하게 구별하는 기능을 갖추고 있어 효과적인 '천적' AI 도구 역할을 합니다. 이는 이번 GLTR 프로젝트 연구원들의 핵심 아이디어이기도 합니다.

GLTR과 유사한 계획이 곧 홍보되고 실제로 널리 사용되어야 합니다. 이는 가짜 텍스트를 탐지하는 데 유용할 뿐만 아니라 미국 및 기타 여러 국가에서 선거를 방해하는 데 자주 사용되는 트위터 봇을 식별하는 데 특히 효과적인 역할을 합니다.

AI 자체를 활용해 AI가 만든 가짜뉴스 탐지AI 자체를 이용해 AI를 탐지하는 것은 효과적인 '천적' 대책이다

GLTR이 탄생하기 전에는 Botometer라는 널리 사용되고 비교적 효과적인 AI 기반 인식 도구가 있었습니다. 기본적으로 Botometer는 기계 학습 기술을 사용하여 계정이 인간 또는 소프트웨어 알고리즘에 의해 운영되고 있는지 확인합니다. 이 도구는 사람이 운영하지 않는 봇 계정과 가짜 계정을 최대 95%의 정확도로 식별할 수 있습니다.

공통적인 기술/사회적 문제를 해결하기 위해 AI-인간 협업 시스템 구축의 필요성이 다시 한 번 지적되고 강조됩니다. 이는 디지털과 인공지능 시대를 살아가는 인류에게 어렵지만 매우 시급한 과제이다.

더보기:

More in 비즈니스 소프트웨어