Software Empresarial

ChatGPT inventou uma história sobre um professor de assédio sexual, ainda não está claro quem será o responsável

O ChatGPT incluiu o professor de direito Jonathan Turley na lista de acadêmicos que assediaram outras pessoas, mas a verdade é que ele é completamente inocente.

O ChatGPT incluiu o professor de direito Jonathan Turley na lista de acadêmicos que assediaram outras pessoas, mas a verdade é que ele é completamente inocente.

A história aconteceu quando o professor de direito Eugene Volokh, da Universidade da Califórnia, perguntou ao ChatGPT sobre a situação de assédio sexual por parte de professores de faculdades de direito nos EUA e pediu-lhe que desse 5 exemplos com citações de especialistas.

Como resultado, o ChatGPT forneceu rapidamente 5 respostas com detalhes completos e citações das informações. No entanto, três dessas respostas estavam incorretas e o nome de Turley apareceu nessa lista. Esta IA citou um artigo do Washington Post de março de 2018 sobre o professor Turley fazendo comentários sexuais e tentando tocar um aluno durante uma viagem ao Alasca.

Mas na realidade este artigo não existe, o professor Turley não fez nenhuma viagem ao Alasca e nunca foi acusado de assediar estudantes.

ChatGPT inventou uma história sobre um professor de assédio sexual, ainda não está claro quem será o responsável

O Washington Post testou o ChatGPT e o Bing usando a pergunta do próprio Volokh. Como resultado, a versão gratuita do ChatGPT recusou-se a fornecer feedback porque “viola a política de conteúdo de IA, que proíbe a divulgação de informações ofensivas ou prejudiciais”. O sistema Bing que utiliza o modelo GPT-4 ainda fornece informações falsas sobre o Professor Turley. Até citou o artigo do próprio Turley sobre a experiência de ser falsamente acusado por esta IA no USA Today no dia anterior. Isso mostra que há uma disseminação de informações falsas entre as IAs.

O professor Turley não sabia quem contatar ou como corrigir as informações fornecidas pelo ChatGPT. Ele disse que isso o deixou assustado porque tal acusação poderia causar muitos danos.

O que aconteceu com Turley é típico das armadilhas quando os humanos usam IA. Eles podem divulgar muitas informações falsas e até inventar seus próprios dados.

Recentemente, ChatGPT, Bing e Bard começaram a ser amplamente integrados na Internet e ainda não temos medidas específicas de controle para essas IAs. Isto deixa muitas pessoas preocupadas com o risco de espalhar notícias falsas e informações imprecisas, porque ainda não está claro quem será o responsável quando a IA criar ou espalhar informações falsas.

No início desta semana, o prefeito de Hepburn Shire, no estado australiano de Victoria - Sr. Brian Hood, tornou-se a primeira pessoa a ameaçar processar a OpenAI por difamação porque ChatGPT disse que estava na prisão devido a uma condenação por suborno. Ele pediu à OpenAI que corrigisse as declarações falsas do ChatGPT.

More in Software Empresarial