AIとのチャットはプライベートだと思っている人への注意喚起：アップロードした内容は人間が見ている可能性がある。今週404 Mediaが報じたところによると、請負業者がCopilotユーザーの写真、編集依頼、そしてCopilotが生成した画像を確認しているという。彼らが目にするものの中には、衝撃的なものもある。
これらのレビューを行うために雇われた第三者企業は、従業員に元の写真とユーザーからの編集依頼を提示します。また、AIによる編集案を2つ提示し、それぞれの技術的な優劣を判断するよう求めます。インターネットの世界では、猫にハロウィンのコスチュームを着せるといった依頼にとどまらず、性的な内容の依頼も多く、中には子供が関係するものもあると報告書は述べています。元の写真の顔は検閲されていないため、レビュー担当者は被写体が誰であるかを確認できます。
レビュー担当者が評価を求められる編集依頼や結果には、スカート丈を短くする、体の部位を大きくする、人物を性的なポーズにさせるなどの依頼が含まれる。多くの場合、これらの編集は同意なしに行われているように見える。例えば、ある契約担当者は、スカートの中を写した写真のセットを複数見せられたと述べている。別の担当者は、子供向けアニメキャラクターの足フェチ画像を評価するよう求められたと述べている。ユーザーは、アリアナ・グランデが拒食症に苦しんでいる画像を作成するようCopilotに依頼した。動物の生贄を描いた画像が、あるレビュー担当者の机を横切った。
インタビューを受けた人々は404 Mediaに対し、請負業者は画像の出力品質を評価するために報酬を受け取っているが、不適切なコンテンツを報告するためではないと語った。彼らは、指示が適切に守られているか、画像の一部が保存されているか歪んでいるか、画像全体の見た目などを確認する。コンテンツに関して法的または安全上の判断を下すことはない。
マイクロソフトは、一部のアカウントから顧客データを取得し、製品の改善に役立てている。しかし、404 Mediaが問い合わせたところ、ユーザーがアップロードしたファイルを評価対象から除外できるかどうかについては回答しなかった。
マイクロソフトは、旧バージョンのCopilotの消費者向け版に関するPrivacyに関するFAQの中で、会話履歴はデフォルトで18か月間保存されるが、ユーザーはいつでも削除できると述べている。また、AIトレーニングのために「アップロードした画像やファイルを含む」データを使用する可能性があるとも述べている。対象となるユーザーはトレーニングをオプトアウトできるが、FAQによると、特定の人間によるレビューをオプトアウトすることはできない。ただし、404 Mediaが説明した画像評価タスクがこれに該当するかどうかは明記されていない。
マイクロソフトは、8月18日から利用可能な最新の消費者向けCopilotアプリでは、プロンプト、応答、アップロードされたファイルの内容を使用して基礎モデルをトレーニングしないと述べている。しかし、404 Mediaがマイクロソフトに投げかけた疑問は依然として残る。ユーザーはアップロードしたファイルを人間の画像レビューから除外できるのだろうか？
Copilotの過去の画像問題
マイクロソフト関係者は以前から、Copilotが問題のある画像を生成する傾向があると警告していた。
2024年初頭、機械学習エンジニアのシェーン・ジョーンズ氏は、ソフトウェアのテキストから画像への変換ツールであるDALL-E 3の安全対策を回避できる可能性について懸念を表明した。同氏は以前、このツールを使用しているCopilot Designerを3か月間一般公開しないようマイクロソフトに要請したが、マイクロソフトはこれを拒否したという。当時CNBCの取材に対し、同氏は、マイクロソフトのフィードバックチームには毎日1,000件以上の製品フィードバックメッセージが寄せられており、その中でも最も深刻なものしか対応していないと語った。
これと同時に、マイクロソフトはCopilot Designerの抜け穴を修正した。この抜け穴により、テイラー・スウィフトの同意なしに親密なdeepfakesを作成することが可能になっていた。
AIチャットのレビューを外部委託しているのはマイクロソフトだけではありません。OpenAIもProject Lilyイニシアチブの一環として同様の取り組みを行っています。AIアシスタントが会話データをどのように利用して自己改善を図っているか、またそれを阻止するために何ができるかについて詳しく知りたい場合は、以下をお読みください。 Malwarebytesユーザーコンテンツに関するAIトレーニングのガイド。
脅威の報告から、それらを排除することまで。
サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。
