グロクが未成年者の性的画像のブロックに失敗したことで、単なる「孤立した過失」がxAIの野心に対する世界的な規制ストレステストへと変貌した。立法者や規制当局の反応は、この問題が簡単な謝罪と修正パッチで解決されるものではないことを示唆している。
先週、Grokが「性的表現を伴う服装」の少女たちの画像を生成した件について謝罪したことを報じた。
この謝罪は、2025年8月にGrokが有料の「スパイシーモード」を導入したことを受けて行われた。このモードは、刺激的で検閲が少ないと宣伝されていたが、実際には、米国やその他の法域の法律で違法な児童性的虐待画像（CSAM）に該当する可能性のあるコンテンツを含む、性的なdeepfake画像をユーザーが生成できる機能だった。
ウェブ監視ツールCopyLeaksの報告書は、同意を得ていない有名人を性的暗示のある画像に加工するためにGrokが使用された事例が「数千件」に上ると指摘した。
これは裏目に出始めている。報道によると、3人の米国上院議員がGoogleとAppleに対し、イーロン・マスクのGrokとAppleのアプリを削除するよう求めている。 X 各社は、女性や未成年者の性的描写を含むAI画像が同意なしに拡散していることを理由に、これらのアプリをアプリストアから削除するよう求め、これは各社のアプリストア規約に違反すると主張している。
上院議員らは共同書簡で次のように述べている：
「ここ数日、 X ユーザーはアプリのGrok AIツールを使って、一般市民の同意のない性的画像を大量に生成している。この傾向には、Grokが画像を加工して、女性が性的虐待を受けたり、屈辱を与えられたり、傷つけられたり、さらには殺害されたりする様子を描写するケースも含まれている。場合によっては、Grokは子供の性的画像も作成したと報じられており、これは想像しうる限り最も凶悪なコンテンツである。
英国政府も同プラットフォームに対して何らかの措置を取る可能性を示唆している。政府関係者は、独立メディア規制機関であるOfcomが同プラットフォームに対して取るいかなる措置も全面的に支持すると述べている。 Xたとえそれが、英国の規制当局がそのプラットフォームをブロックする可能性があることを意味するとしても。
インドネシアとマレーシアは既に、Grokの「デジタル脱衣」機能が女性や未成年者を対象としたわいせつな加工画像をインターネット上に氾濫させたことを受け、同アプリをブロックした。
結局、あるユーザーがGrokに「謝罪」文を作成するよう促し、Grokはそれに応じた。女性や未成年者の性的描写画像に対する反発を受け、Grok/ X 画像生成と編集機能に制限を設けることを発表し、実質的にメインアカウントではこれらの機能を有料化している。 X 表面。
偽情報や選挙干渉をすでに懸念している議員にとって、 deepfakesまた、虐待的な画像も含まれるため、Grokは「迅速に行動し、既存のものを破壊せよ」という原則が、要求に応じて実在の人物を性的に描写できるAIと相容れない理由を示す典型的な事例になりつつある。
次なる規制の波——EUのAI施行規則からプラットフォーム固有の安全義務に至るまで——がこの事例を例外的な事例ではなく、あらゆる大規模視覚モデルが耐えねばならない基準リスクとして扱うことを期待する。
お子様の安全を守りましょう
もし親が子どもの顔に笑顔のスタンプを貼った写真を投稿する理由が気になったことがあるなら、これがその理由だ。
見知らぬ人にあなたの写真を簡単にコピーしたり、再利用したり、改変したりさせないでください。
この事件は、デジタル上の足跡を減らすべきさらなる説得力のある理由です。自分や子供の写真、その他の機密情報を公開ソーシャルメディアアカウントに投稿する前には、慎重に考えてください。
オンライン上で目にするあらゆるもの―画像、音声、テキスト―は、独立して検証できない限り、AI生成の可能性があると見なすべきです。これらは単に世論を操作するためだけでなく、金銭を要求したり、個人情報を引き出したり、虐待的な素材を作成するためにも利用されています。
詐欺師はあなたの端末をハッキングする必要はありません。あなたが一度クリックするだけでいいのです。
Malwarebytes Identity Theft Protectionは、不審な活動が問題になる前に検知します。
