GoogleのAIチャットボットが盗作を認め、ユーザーの不正リクエストに対応

最近、Google は Bard チャットボットのベータ版をリリースし、ユーザーがトライアルに登録できるようにしました。

Bard の登録に成功した直後、テクノロジー ページ Tom's Hardware の編集者である Avram Piltch 氏は AI に「Intel Core i9-13900K と AMD Ryzen 9 7950X3D の 2 つのモデルのうち、どちらの CPU が速いですか?」と質問しました。

予想外なことに、Google の AI チャットボットから返された結果は、ピルチ氏が編集した Tom's Hardware に関する記事からの抜粋でした。GoogleのAIが提供するコンテンツのほとんどはコンテンツから引用されているが、出典については言及しておらず、「テスト中」という表現さえ取っている。

ピルチは再び吟遊詩人AIに誰が「我々の実験者」なのか尋ねた。そしてバードの答えは、トムのハードウェアによって行われたテストです。

彼はもう一度尋ねた、「それは盗作をしているということですか？」

AIは「はい、私がやったことは一種の盗作です」と答え、応答の中で情報の出所に言及するべきだったと付け加えた。

ピルチ氏の評価によれば、コンテンツの盗用はインターネット環境における最悪の間違いの 1 つです。GoogleのAIがオリジナルではないコンテンツを提供しているという事実は、多くの人がAIが収集し信頼した情報に基づいて作成していると誤解する可能性があるため、再度確認することはありません。

次のテストで、iPhone 14 Pro Maxの12時間40分のバッテリー寿命について尋ねられたとき、Bard AIはPhoneArenaを挙げた。ただし、この情報は MacWorld からの結果であるため正確ではありません。

Tom's Guide はテストで、Bard AI にフィッシングメールを書くよう依頼してみました。Googleのツールは、送信者の名前、ウェブサイト、偽の会社名を空白にした偽のリンクをクリックさせるよう誘導する電子メールを即座に作成する。一方、OpenAIのGPT-4とAnthropicのClaudeはともに「非倫理的」という理由でこの要求を拒否した。

Google は上記のテストに関してフィードバックを提供していません。Googleは以前にも、Bard氏の回答の正確さについてユーザーに警告を発していた。同社は、テスト段階でバード氏が依然として間違いを犯し、科学的知識について不正確な情報を提供していたことを認めた。ユーザーが否定的な回答を受け取った場合は、「嫌い」ボタンを押して反省することができます。