AIチャットボットのトレーニングをオプトアウトする方法

404 Mediaのテクノロジー系ジャーナリストたちは、OpenAIが、実際のユーザーによるChatGPTのプロンプトと応答の膨大なストリームを読み解くために、数百人の契約社員を雇用していることを知った。

「プロジェクト・リリー」とは、チャットボットの品質と動作を改善するために、請負業者にChatGPTの回答を採点または批評してもらうプログラムだと報じられている。

プロンプトが人間によって確認されることがあるという事実は、全く驚くべきことではないはずだ。AI企業も安全上の理由から会話を監視している。例えば、Anthropic社は、生物兵器研究のためにAIを悪用しようとする試みを阻止したと述べている。

しかし、会話を安全面や悪用の観点から検証することと、通常のモデル改善のために検証することの間には、明確な区別が必要である。

OpenAIによると、限られた数の認可された担当者と信頼できるサービスプロバイダーが、不正行為の調査、サポートの提供、法的問題の処理、モデルの改善など、いくつかの理由でチャットにアクセスする可能性があるという。

OpenAIは404 Mediaに対し、「 Privacy プロンプトがレビュー担当者に届く前に個人情報を削除する「フィルター」モデルを採用するが、機密情報がそれでも通過してしまう可能性があることは認める。

プロンプトは匿名化されており、レビュー担当者は入力したChatGPTユーザーのユーザー名を見ることはできません。しかし、レビュー担当者は会話の中で個人情報と「ユーザー履歴サマリー」を目にする可能性があります。このサマリーには、そのユーザーが過去にチャットボットをどのように利用したかの概要が表示されます。これらの情報を合わせると、そのユーザーについて多くのことが明らかになる可能性があります。

AIチャットボットとやり取りしている時、それがプライベートな会話ではないことをつい忘れてしまいがちです。これはAIの使用を過度に心配する警告ではなく、開示する内容には注意を払うべきだという注意喚起です。なぜなら、開示した内容は閲覧・検証される可能性があるからです。

AIチャットボットのトレーニングをオプトアウトする方法

ChatGPT

OpenAIは404 Mediaに対し、「全員のモデルを改善する」設定をオフにすれば、ユーザーのチャットは同社のモデルの改善には使用されないと語った。この設定は無料版ではデフォルトでオンになっている。 Plusまた、Proプランにも含まれているため、オプトアウトしたい場合はユーザー自身でオフにする必要があります。

しかし、オプトアウトしても、すべての人間によるアクセスが阻止されるわけではありません。OpenAIによると、権限のある担当者や信頼できるサービスプロバイダーは、不正行為やセキュリティインシデントの調査、サポートの提供、問題のトラブルシューティング、法的問題の処理などの必要に応じて、コンテンツにアクセスできるとのことです。

ChatGPTでは、プロフィールアイコンを選択し、 「設定」 ＞ 「データコントロール」に進み、 「全員のモデルを改善する」をオフにしてください。モバイル版では、サイドバーを開き、プロフィールアイコンを選択して、同様の手順に従ってください。