強力で魅力的な設計を意図した別のAIシステムは、開発スピードと機能競争が安全対策を上回る状況下で、安全装置が日常的に機能不全に陥る実例を示している。
X、AIチャットボットのGrokは「性的表現を伴う服装」の少女たちの画像を生成したことを認めた。
児童性的虐待素材（CSAM）に関する米国法の潜在的な違反は、AIチャットボットに明らかな安全装置の欠如があることを示している。あるいは少なくとも、その安全装置は我々が望むほどには効果的ではない。
マスク氏のチャットボットを開発したxAIは「将来の問題を防ぐため」に本件を調査中であり、プロンプトを送信したユーザーはアカウント停止処分を受けたと報じられている。別件のX投稿でGrokは本件を「孤立した事例」と説明し、「安全対策の不備」が確認されたため緊急修正を実施中だと述べた。
休暇期間中、私たちはAIの開発や機能が十分な安全テストを経ずに急いでリリースされることでリスクが増大する点について議論しました。AIの限界を押し広げる速度が、安全性を確保する速度を上回っているのです。未成年を性的に描画する可能性のあるビジュアルモデルは、厳格な悪用テストなしに決して公開されるべきではない典型的な事例です。
一方では国家や州のコンテンツ規制によるジオブロッキングが見られる一方で、最も人気のあるソーシャルメディアプラットフォームの一つに連動するAIは、立法者が現在規制しようとしているものよりもはるかに深刻と多くの人が考えるコンテンツをブロックできなかった。結果として、中央集権的な年齢確認データベースは侵害の標的となりつつも、AIツールが虐待的な素材を生成するのを防げずにいる。
女性もまた、Grokの画像生成機能の標的となっていると報告している。あるX ツイートした：
文字通り、目覚めたらグロクに「僕をTバック／ビキニ姿にして」ってコメントが山ほど来てて、その投稿にはブックマークが大量についてた。さらに最悪なのは、グロクのページを見たら、子供の写真にそんなことをしてる気持ち悪いクズどもがいたことだ。心底気持ち悪い。
サイバー犯罪者がこの種の脆弱性を悪用し、幼い子供たちの捏造された露骨なコンテンツで親を騙したり恐喝したりした場合の壊滅的な結果を想像するしかない。AI生成コンテンツに実在の顔を挿入するツールは既に広く入手可能であり、現行の安全対策では悪用を確実に防止できないようだ。
ヒント
この事件は、デジタルフットプリントを減らすべきさらなる説得力のある理由です。自分や子供の写真、その他の機密情報を公開ソーシャルメディアアカウントに投稿する前には、慎重に考えてください。
オンライン上で目にするものすべて——画像、音声、テキスト——は、独立して検証できない限り、AI生成の可能性があると見なすべきです。これらは単に世論を操作するためだけでなく、金銭を要求したり、個人情報を引き出したり、虐待的な素材を作成するためにも利用されています。
脅威を報告するだけでなく、ソーシャルメディアの保護を支援します
サイバーセキュリティリスクは見出し以上の広がりを決して許さない。Malwarebytes Identity Theft でソーシャルメディアアカウントを守ろう。
