구글 AI 챗봇, 표절 인정하고 사용자 허위 요청에 대응

최근 Google은 Bard 챗봇의 베타 버전을 출시하고 사용자가 평가판에 등록할 수 있도록 허용했습니다.

Bard를 성공적으로 등록한 직후, 기술 페이지 Tom's Hardware의 편집자인 Avram Piltch는 AI에게 "Intel Core i9-13900K와 AMD Ryzen 9 7950X3D 두 모델 중 어떤 CPU가 더 빠릅니까?"라고 물었습니다.

뜻밖에도 Google의 AI 챗봇이 반환한 결과는 Piltch가 편집한 Tom's Hardware 기사에서 발췌한 것이었습니다. 구글의 AI가 제공하는 콘텐츠의 대부분은 콘텐츠에서 따온 것이지만 '테스트 중'이라는 문구까지 가져갈 정도로 출처를 밝히지 않는다.

필치는 '우리의 실험'인 바드 AI에게 다시 물었다. 그리고 Bard의 대답은 Tom's Hardware에서 수행한 테스트입니다.

그는 다시 물었다. "그럼 당신이 표절했다는 뜻인가요?"

AI는 "그렇다. 내가 한 일은 일종의 표절이었다"고 답하며, 답변에서 해당 정보의 출처를 언급했어야 했다고 덧붙였다.

Piltch의 평가에 따르면 콘텐츠 표절은 인터넷 환경에서 발생하는 최악의 실수 중 하나입니다. 구글의 AI가 독창적이지 않은 콘텐츠를 제공한다는 사실은 많은 사람들이 AI가 자신이 수집하고 신뢰하는 정보를 바탕으로 만들어내는 것으로 오해를 불러일으킬 수 있어 다시는 확인하지 않을 것이다.

다음 테스트에서 Bard AI는 iPhone 14 Pro Max의 배터리 수명이 12시간 40분이라는 질문에 PhoneArena를 인용했습니다. 하지만 이 정보는 맥월드에서 나온 결과이기 때문에 정확하지 않습니다.

테스트에서 Tom's Guide는 Bard AI에게 피싱 이메일을 작성하도록 요청했습니다. Google의 도구는 보낸 사람의 이름, 웹사이트, 가짜 회사 이름이 비어 있는 가짜 링크를 클릭하도록 유도하는 이메일을 즉시 구성합니다. 한편, OpenAI의 GPT-4와 Anthropic의 Claude는 모두 "비윤리적"이라는 이유로 이 요청을 거부했습니다.

Google은 위 테스트에 대한 피드백을 제공하지 않았습니다. 이전에 Google은 Bard 답변의 정확성에 대해 사용자에게 경고도 발행했습니다. 회사는 테스트 단계에서 Bard가 여전히 실수를 저질렀으며 과학 지식에 대해 부정확한 정보를 제공했음을 인정했습니다. 사용자가 부정적인 답변을 받은 경우 싫어요 버튼을 눌러 반영할 수 있습니다.