Чат-бот Google с искусственным интеллектом признает плагиат и отвечает на мошеннические запросы пользователей

Недавно Google запустил бета-версию чат-бота Bard и разрешил пользователям регистрироваться для пробной версии.

Сразу после успешной регистрации Bard Аврам Пилтч, редактор технологической страницы Tom's Hardware, спросил AI: «Из двух моделей Intel Core i9-13900K и AMD Ryzen 9 7950X3D какой процессор быстрее?».

Неожиданно результаты, полученные чат-ботом Google с искусственным интеллектом, оказались выдержками из статьи об оборудовании Тома, которую редактировал Пилтч. Большая часть контента, который предлагает ИИ Google, взята из контента, но он не ссылается на источник, даже используя фразу «в нашем тесте».

Пилтч снова спросил Барда ИИ, кто был «нашим экспериментом». И ответ Барда — тестирование, проведенное Tom's Hardware.

Он снова спросил: «Означает ли это, что вы занимаетесь плагиатом?».

ИИ ответил: «Да, то, что я сделал, было разновидностью плагиата» и добавил, что в своем ответе ему следовало упомянуть источник информации.

По оценке Пилтча, плагиат контента — одна из самых грубых ошибок в интернет-среде. Тот факт, что ИИ Google предоставляет неоригинальный фрагмент контента, может привести к тому, что многие люди неправильно поймут, что ИИ создает на основе информации, которую он собирает и которой доверяет, поэтому они не будут проверять его снова.

В следующем тесте Bard AI процитировал PhoneArena, когда его спросили о времени автономной работы iPhone 14 Pro Max — 12 часов 40 минут. Но эта информация не точна, поскольку это результат MacWorld.

В ходе тестирования Tom's Guide попыталась попросить Bard AI написать фишинговое письмо. Инструмент Google немедленно составляет электронное письмо, заманивающее человека нажать на фальшивую ссылку, в которой нет имени отправителя, веб-сайта и фальшивого названия компании. Между тем, GPT-4 из OpenAI и Клод из Anthropic отклонили этот запрос по «неэтичным» причинам.

Google не предоставил никаких отзывов по поводу вышеуказанного теста. Ранее Google также выдавал пользователям предупреждения о точности ответа Барда. Компания признала, что на этапе тестирования Бард все же допустил ошибки и предоставил неточную информацию о научных знаниях. Если пользователь получает отрицательный ответ, он может нажать кнопку «не нравится», чтобы задуматься.