Используйте сам ИИ для обнаружения фейковых новостей, созданных ИИ

Недавно исследователи из Гарвардского университета и лаборатории AI-MIT Watson Массачусетского технологического института создали инструмент GLTR (Giant Language Model Test Room — Гигантская языковая модель тестовой комнаты) для обнаружения предвзятости информации, создаваемой ИИ с использованием самого искусственного интеллекта.

Инструмент GLTR четко понимает, как работает ИИ, а затем анализирует информационный контент. Этот инструмент обнаруживает фейковые новости, созданные с помощью технологии искусственного интеллекта, путем выделения фрагмента текста. Читатели могут оценить аналитические возможности GLTP на иллюстрации ниже. Слова, выделенные зеленым цветом, являются наиболее предсказуемыми, красный и желтый — менее предсказуемыми, а фиолетовый — наименее предсказуемым.

Ученые полагаются на цвета в каждом фрагменте текста и на анализ, чтобы оценить подлинность информации, независимо от того, была ли она создана алгоритмами или нет. Текст, выделенный красным, фиолетовым и желтым, с меньшей вероятностью будет создан ИИ из-за использования большого количества сложных слов. Если текст покрыт большим количеством синего цвета, это означает, что в нем много общих слов и, вероятно, они созданы ботом. Этот инструмент помогает повысить уровень обнаружения поддельного текста примерно на 72%.

По сути, предложения, написанные генератором текста ИИ, могут быть грамматически правильными, но обязательно будут иметь семантические проблемы или во многих случаях даже не иметь какого-либо реального смысла или какой-либо причины.

В настоящее время использование искусственного интеллекта и моделей генерации неестественного языка для создания фейковых новостей и распространения ложной информации становится все более распространенным, что приводит к серьезным последствиям для общества. Эти фальшивые тексты иногда бывают чрезвычайно сложными, из-за чего читателям трудно понять, что они были написаны машиной, а не человеком. Между тем, инструмент GLTR оснащен способностью точно различать вышеупомянутый тип фальшивого текста, выступая в качестве эффективного инструмента искусственного интеллекта «естественного врага». Это также основная идея исследователей проекта GLTR.

Инициативы, подобные GLTR, следует в ближайшее время продвигать и широко использовать на практике. Они ценны не только при обнаружении фейкового текста, но и играют особенно эффективную роль в выявлении ботов Твиттера, которые часто используются для срыва выборов в США и многих других странах.

Использование самого ИИ для обнаружения ИИ является эффективной мерой «естественного врага».

До появления GLTR существовал широко используемый и относительно эффективный инструмент распознавания на основе искусственного интеллекта под названием Botometer. По сути, Botometer использует методы машинного обучения, чтобы определить, управляется ли какая-либо учетная запись человеком или программным алгоритмом. Этот инструмент способен идентифицировать учетные записи ботов и фейковые учетные записи, которые не управляются людьми, с точностью до 95%.

В очередной раз указывается и подчеркивается необходимость создания совместных систем искусственного интеллекта и человека для решения общих технологических/социальных проблем. Это сложная, но чрезвычайно актуальная задача для человечества в нынешнюю эпоху цифрового и искусственного интеллекта.

Узнать больше:

• Искусственный интеллект уже может написать целую статью всего лишь из нескольких фрагментов информации.
• ИИ создал лица, похожие на реальных людей, фальшивые машины, дома и даже животных.
• Искусственный интеллект учится создавать еще один искусственный интеллект, заменивший человека в будущем
• 6 шагов, чтобы начать изучать программирование искусственного интеллекта (ИИ)