著名な女性を題材にしたDeepfake サイトが連邦当局により閉鎖 |Malwarebytes

米国政府のおかげで、CFake.deepfakes SOCFake.deepfakes 同意のないdeepfakes を探そうとする人は、がっかりすることになるだろう。米国司法省（DOJ）と国土安全保障省は、「TAKE IT DOWN法」に基づき、これら2つのドメイン名を差し押さえた。

2025年5月に署名された「TAKE IT DOWN法」は、AI生成の偽造画像を含む、同意のない親密な画像の公開を犯罪とする米国初の連邦法である。同法は、最長2年の懲役刑を科すほか、対象となるプラットフォームに対し、通報されたコンテンツを48時間以内に削除するよう義務付け、また、司法省が今回行使した没収権限を付与している。

押収令状によると、これらのデジタル偽造画像には「政治家、各国のファーストレディ、王族、ジャーナリスト、テレビ司会者、アスリート、芸能人など」が描かれており、閲覧者は「レイプ」「強制」「屈辱」といったタグでそれらを閲覧することができた。

しかし、当局は単にサイトを差し押さえただけではない。国際的な協力体制のもと、CFake.comの運営者とされる人物を逮捕した。

米国は、ニース在住のフランス人男性がCFake.comを運営していた疑いがあるとして、パリ検察庁に通報した。フランスの捜査当局の調べによると、CFake.com上には1万4000人を写した画像約30万枚と動画約7000本が掲載されており、20万のユーザーアカウントから月間400万回の閲覧数を記録していた。

その後、彼らは前科のないこのIT専門家を逮捕した。また、同サイトの広告収入として、彼の自宅から約6万4000ドル相当の仮想通貨イーサが発見された。

この男は、オンラインでの違法取引および同意のない性的deepfakes提供の罪で、7月7日にパリで裁判にかけられる。前者の罪には、最高7年の懲役および50万ユーロ（約58万ドル）の罰金が科される可能性がある。後者の罪には、最高3年の懲役および7万5000ユーロ（約8万7000ドル）の罰金が科される可能性がある。

米国では、合意のない性的deepfakes 提供者やその容疑者もdeepfakes 。4月には、オハイオ州のジェームズ・ストララー2世が、サイバーストーキング、児童性的虐待素材の制作、およびデジタル偽造物の公開について有罪を認めた。

ストララーは、児童性的虐待サイトに投稿された700点以上の画像やアニメーションをダウンロード・作成し、少なくとも6人の成人女性に対してdeepfake を送信していた。その中には、被害者の同僚に送られたものも含まれていた。

先月、司法省はまた、「TAKE IT DOWN法」に基づき、著名な女性や一般人のdeepfake 数千点公開したとして、コーネリアス・シャノンとアルトゥーロ・ヘルナンデスを逮捕した。

他の国々でも対策が進められている。アンソニー・ロンツォンド氏は、オーストラリアの著名な女性たちのディープフェイク画像を投稿したとして、昨年5月にオーストラリア当局に逮捕された。彼は最終的に34万3000オーストラリアドルの罰金を科された。

deepfakesどれほど広まっているのでしょうか？

こうした押収や起訴は心強い動きだが、同意のないdeepfakes 求めようとする検察当局は、こうした素材の氾濫という高まる波に直面している。同意のないdeepfake 要求や共有は増加しており、その活動はプラットフォーム間を移動している。2024年には Deepfake 全体で257％急増し、報告されたAI生成による児童性的虐待事件の被害者の94％を少女が占めた。

配信拠点を摘発しても、単に表向きの窓口がなくなるだけです。コンテンツの生成に使われているAIモデルや、その下流にある匿名のホスティングプロバイダー、あるいはそもそも訪問者を引き寄せている需要そのものは、消えることはありません。