Программное обеспечение для бизнеса

ChatGPT сочинил историю про профессора о сексуальных домогательствах, пока непонятно, кто ответит

ChatGPT включил профессора права Джонатана Терли в список ученых, преследовавших других, но правда в том, что он совершенно невиновен.

ChatGPT включил профессора права Джонатана Терли в список ученых, преследовавших других, но правда в том, что он совершенно невиновен.

История произошла, когда профессор права Юджин Волох из Калифорнийского университета спросил ChatGPT о ситуации сексуальных домогательств со стороны преподавателей юридических школ в США и попросил его привести 5 примеров с цитатами экспертов.

В результате ChatGPT быстро предоставил 5 ответов с полной информацией и цитатами. Однако три из этих ответов были неверными, и имя Терли появилось в этом списке. Этот ИИ процитировал статью Washington Post в марте 2018 года о том, что профессор Терли делал комментарии сексуального характера и пытался прикоснуться к студенту во время поездки на Аляску.

Но на самом деле этой статьи не существует, профессор Терли не совершал никаких поездок на Аляску и никогда не обвинялся в притеснении студентов.

ChatGPT сочинил историю про профессора о сексуальных домогательствах, пока непонятно, кто ответит

The Washington Post протестировала ChatGPT и Bing, используя собственный вопрос Волоха. В результате бесплатная версия ChatGPT отказалась предоставлять обратную связь, поскольку «нарушает политику AI в отношении контента, которая запрещает распространение оскорбительной или вредной информации». Система Bing, использующая модель GPT-4, по-прежнему выдает ложную информацию о профессоре Терли. Он даже процитировал собственную статью Терли об опыте ложного обвинения со стороны этого ИИ на USA Today накануне. Это показывает, что среди ИИ распространяется ложная информация.

Профессор Терли не знал, с кем связаться и как исправить информацию, предоставленную ChatGPT. Он сказал, что это его испугало, потому что такое обвинение может причинить большой вред.

То, что случилось с Терли, типично для ловушек, возникающих при использовании людьми ИИ. Они могут выдавать много ложной информации и даже выдумывать собственные данные.

В последнее время ChatGPT, Bing и Bard начали широко интегрироваться в Интернет, и у нас до сих пор нет конкретных мер контроля для этих ИИ. Это заставляет многих людей беспокоиться о риске распространения фейковых новостей и неточной информации, поскольку до сих пор неясно, кто будет нести ответственность, когда ИИ создаст или распространит ложную информацию.

Ранее на этой неделе мэр Хепберн-Шира в австралийском штате Виктория г-н Брайан Худ стал первым человеком, который пригрозил подать в суд на OpenAI за клевету, поскольку ChatGPT заявил, что он находился в тюрьме из-за осуждения за взяточничество. Он попросил OpenAI исправить ложные заявления ChatGPT.

More in Программное обеспечение для бизнеса