ChatGPT는 다른 사람을 괴롭힌 학자 명단에 조나단 털리(Jonathan Turley) 법학 교수를 포함시켰지만 사실은 그가 완전히 결백하다는 것입니다.
이 이야기는 캘리포니아 대학의 법학 교수인 유진 볼로크(Eugene Volokh)가 ChatGPT에게 미국 로스쿨 강사들의 성희롱 실태를 묻고 전문가들의 말을 인용해 5가지 사례를 들어달라고 요청하면서 벌어진 일이다.
그 결과 ChatGPT는 정보의 전체 세부정보와 인용이 포함된 5개의 응답을 신속하게 제공했습니다. 그러나 그 응답 중 3개는 틀렸고 Turley의 이름이 그 목록에 나타났습니다. 이 AI는 2018년 3월 Turley 교수가 알래스카 여행 중에 성적인 발언을 하고 학생을 만지려고 시도했다는 워싱턴 포스트 기사를 인용했습니다.
그러나 실제로는 이 기사가 존재하지 않으며, 털리 교수는 알래스카로 여행을 간 적도 없고, 학생들을 괴롭힌 혐의로 기소된 적도 없습니다.

Washington Post는 Volokh의 질문을 사용하여 ChatGPT와 Bing을 테스트했습니다. 이에 따라 ChatGPT 무료 버전은 "공격적이거나 유해한 정보의 유포를 금지하는 AI 콘텐츠 정책을 위반한다"는 이유로 피드백 제공을 거부했습니다. GPT-4 모델을 사용하는 Bing 시스템은 여전히 Turley 교수에 대한 잘못된 정보를 제공합니다. 심지어 전날 USA Today에서 이 AI에 의해 거짓 고발을 당했던 경험에 대한 Turley 자신의 기사도 인용했습니다. 이는 AI들 사이에 허위 정보가 확산되고 있음을 보여준다.
Turley 교수는 누구에게 연락해야 할지, ChatGPT에서 제공한 정보를 수정하는 방법을 몰랐습니다. 그는 그런 비난이 많은 피해를 끼칠 수 있기 때문에 겁이 났다고 말했습니다.
Turley에게 일어난 일은 인간이 AI를 사용할 때 나타나는 전형적인 함정입니다. 그들은 많은 거짓 정보를 제공할 수 있고 심지어 자신의 데이터를 구성할 수도 있습니다.
최근 ChatGPT, Bing 및 Bard가 인터넷에 널리 통합되기 시작했지만 아직 이러한 AI에 대한 구체적인 제어 조치가 없습니다. AI가 허위 정보를 생성하거나 퍼뜨릴 때 누가 책임을 질지 아직 불분명하기 때문에 가짜 뉴스와 부정확한 정보가 퍼질 위험에 대해 많은 사람들이 걱정하고 있습니다.
이번 주 초, 호주 빅토리아주의 햅번 샤이어(Hepburn Shire) 시장인 브라이언 후드(Mr. Brian Hood)는 ChatGPT가 뇌물 수수 유죄 판결로 감옥에 갇혔다고 말했기 때문에 명예 훼손으로 OpenAI를 고소하겠다고 위협한 최초의 사람이 되었습니다. 그는 OpenAI에게 ChatGPT의 허위 진술을 수정해 달라고 요청했습니다.