ChatGPTはセクハラ教授に関する話をでっち上げ、誰が責任を負うかはまだ不明

ChatGPTは、他人に嫌がらせをした学者のリストに法学教授のジョナサン・ターリーを含めているが、真実は彼が完全に無実であるということだ。

事の発端は、カリフォルニア大学の法学教授ユージン・ヴォロック氏が、米国のロースクール講師によるセクハラの状況についてChatGPTに質問し、専門家の意見を引用しながら5つの例を挙げてもらうよう依頼したことだった。

その結果、ChatGPT はすぐに 5 件の回答を提供し、情報の完全な詳細と引用を提供しました。しかし、それらの回答のうち 3 つは不正解で、そのリストにはターリーの名前が載っていました。このAIは、ターリー教授がアラスカへの旅行中に性的な発言をし、学生に触れようとしたという2018年3月のワシントン・ポストの記事を引用した。

しかし実際には、この記事は存在せず、ターリー教授はアラスカへの旅行も行っておらず、学生への嫌がらせで告発されたこともありません。

Washington Post は、Volokh 自身の質問を使用して ChatGPT と Bing をテストしました。その結果、ChatGPTの無料版は「攻撃的または有害な情報の拡散を禁止するAIコンテンツポリシーに違反する」としてフィードバックの提供を拒否した。GPT-4 モデルを使用した Bing システムは依然としてターリー教授に関する誤った情報を提供します。前日のUSAトゥデイでこのAIによって冤罪をかけられた経験についてのターリー氏自身の記事も引用した。これはAIの間で偽情報が蔓延していることを示している。

ターリー教授は、誰に連絡すればよいのか、ChatGPT から提供された情報を修正する方法がわかりませんでした。このような告発は多大な損害を引き起こす可能性があるため、恐怖を感じたと彼は述べた。

ターリーに起こったことは、人間が AI を使用する際の典型的な落とし穴です。彼らは多くの虚偽の情報を流したり、独自のデータをでっち上げたりすることもあります。

最近、ChatGPT、Bing、Bard がインターネット上で広く統合され始めていますが、これらの AI に対する具体的な制御手段はまだありません。このため、AIが誤った情報を作成したり拡散したりした場合に誰が責任を負うのかが依然として不明であるため、多くの人がフェイクニュースや不正確な情報が拡散するリスクを懸念しています。

今週初め、オーストラリアのビクトリア州ヘプバーン・シャイアの市長であるブライアン・フッド氏は、ChatGPTが収賄の有罪判決により刑務所に収監されていたと述べたため、OpenAIを名誉毀損で告訴すると脅迫した最初の人物となった。同氏はOpenAIに対し、ChatGPTの虚偽の記述を訂正するよう求めた。