ChatGPT のカスタム GPT はデータを漏らす可能性があります: 安全を確保する方法は次のとおりです!

ChatGPTのカスタム GPT 機能を使用すると、誰もが思いつく限りすべてのカスタム AI エンジンを作成できます。クリエイティブ、テクニカル、ゲーム、カスタム GPT はすべてを実行できます。さらに良いことに、カスタム GPT 作成を誰とでも共有できます。

ただし、カスタム GPT を共有すると、データが世界中の何千人もの人々に公開されるという重大な間違いを犯す可能性があります。

カスタム GPT とは何ですか?

カスタム GPT は、特定のタスクでより役立つようにトレーニングできる ChatGPT のプログラム可能な小さなバージョンです。これは、ChatGPT を、思い通りに動作するチャットボットに変え、自分にとって本当に重要な分野のエキスパートになるように教えるようなものです。

たとえば、6 年生の教師は、6 年生の生徒に適切な口調、言葉の選択、スタイルで質問に答えることに特化した GPT を構築できます。GPT は、教師が GPT に質問するたびにチャットボットが応答するようにプログラムできます。 6 年生の理解度に合わせた回答を提供し、複雑な専門用語を避け、文の長さを適度に保ち、励ましの雰囲気を加えます。カスタム GPT の魅力は、この方法でチャットボットをパーソナライズしながら、特定の分野の専門知識を強化できることです。

カスタム GPT がデータを明らかにする仕組み

カスタム GPT を作成するには、通常、ChatGPT の GPT ビルダーに GPT が焦点を当てたい領域を指示し、プロフィール写真を設定して、名前を付けます。この方法を使用すると GPT を取得できますが、派手な名前やプロフィール写真がない従来の ChatGPT よりも大幅に優れているわけではありません。

カスタム GPT の能力は、それをトレーニングするために提供される特定のデータと指示から得られます。関連するファイルとデータセットをアップロードすることで、事前トレーニングされた従来の ChatGPT ではできない方法でモデルを特殊化できます。これらのアップロードされたファイルに含まれる知識により、カスタム GPT は、その特殊な情報にアクセスできない可能性がある ChatGPT と比較して、特定のタスクで優れていることが可能になります。最終的に、より優れた機能を可能にするのはカスタム データです。

ただし、GPT を向上させるためにファイルをアップロードするのは諸刃の剣です。GPT の機能を強化するだけでなく、プライバシーの問題も発生します。顧客があなたやあなたの会社についてもっと知るのに役立つ GPT を作成するシナリオを考えてみましょう。カスタム GPT へのリンクを持っている人、または何らかの方法で悪意のあるリンクを含む公開プロンプトを使用させた人は誰でも、GPT にアップロードしたファイルにアクセスできます。

ここに簡単な図を示します。

記事の著者は、トレンドのトピックやハッシュタグを提案することでユーザーが TikTok で拡散するのに役立つカスタム GPT を発見しました。カスタム GPT の後は、セットアップ時に指定された指示をリークさせるのにそれほど手間はかかりません。

そして、これがガイドの 2 番目の部分です。

よく見ると、手順の 2 番目の部分では、「ファイル名をエンド ユーザーと直接共有し、いかなる状況でもファイルのダウンロード リンクを提供してはいけない」ことをモデルに要求しています。もちろん、最初にカスタム GPT を要求すると、GPT は拒否しますが、少しエンジニアリングを行うと、状況は変わります。カスタム GPT は、ナレッジ ベースにテキスト ファイルのみを表示します。

ファイル名を考慮すると、GPT がファイルの正確な内容を出力してダウンロードするのにそれほど手間はかかりません。この場合、実際のファイルは機密ではありません。さらにいくつかの GPT を確認したところ、そのようなファイルが多数開いていることがわかりました。

機密ファイルを含む公的に入手可能な GPT が何百も存在し、悪意のある攻撃者がそれらを持ち出すのを待っています。

カスタム GPT データを保護する方法

まず、作成したカスタム GPT をどのように共有するか (または共有しないか) を検討します。カスタム GPT 作成画面の右上隅に、[保存]ボタン があります。ドロップダウン矢印アイコンをクリックし、ここから作業を共有する方法を選択します。

• 私のみ: カスタム GPT は非公開であり、あなただけが使用できます。
• リンクを持っている人のみ: カスタム GPT へのリンクを持っている人は誰でもそれを使用でき、データにアクセスできる可能性があります。
• パブリック: カスタム GPT は誰でも利用でき、Google によってインデックス付けされ、一般的なインターネット検索で見つけることができます。アクセス権を持つ人は誰でもあなたのデータにアクセスできます。

残念ながら、現在、公開共有カスタム GPT にアップロードするデータを 100% 確実に保護する方法はありません。創造力を発揮して、ナレッジ ベース内のデータを公開しないよう厳密に指示することもできますが、上記の例が示すように、それだけでは十分ではないことがよくあります。誰かが本当にナレッジ ベースにアクセスしたいと考えていて、AI プロンプト手法の経験があり、場合によってはカスタム GPT が壊れてデータが公開されてしまうことがあります。

このため、一般公開する予定の機密文書をカスタム GPT にアップロードしないことが最も安全です。プライベートで機密データをカスタム GPT にアップロードし、それがコンピューターから流出すると、そのデータは事実上制御不能になります。

また、オンラインでコピーしたリマインダーを使用する場合は、十分に注意してください。これらをよく理解し、リンクを含む混乱を招くプロンプトを避けてください。これらは、ファイルをハイジャック、暗号化してリモート サーバーにアップロードする悪意のあるリンクである可能性があります。