YouTube 顔で戦いたいdeepfakes

もしあなたが心配しているならdeepfake ネット上に自分の似顔絵が現れるという経験をしたことがあるのは、あなただけではありません。 YouTube はあなたのことを心配しています。そのため、自撮り動画と政府発行の身分証明書をサイトにアップロードすることで、あなたを保護したいと考えています。

この仕組みは、動画大手企業が自社のAIを活用して、ユーザーの肖像を無断で使用した偽の動画をサービス内で監視するというものです。その見返りとして、ユーザーはそうした動画を削除してもらうことができます。

ただし、これは誰でも利用できるわけではありません。有名人、不安定な職業に就いている人、そして今ではほとんどの人が対象です。 YouTube クリエイター。

YouTube 同社は、2024年9月にこの構想を初めて公表して以来、「類似性検出」システムと呼ぶこのコンセプトに取り組んできた。同年12月には、クリエイティブ・アーティスト・エージェンシー（CAA）と提携し、スポーツ選手や芸能人を対象にこの技術の活用を開始した。

昨年10月、同社は類似性検出の対象をより多くのクリエイターに拡大し、3月には政治家やジャーナリストにも拡大した。そして先月、ハリウッドセレブにもサービスを提供することで、対象範囲をさらに広げた。 YouTube アカウント、と同社は付け加えた。

さて、最新の措置として、18歳以上で自撮り写真と身分証明書を持っていれば、誰でも登録できるようになった。ただし、まだ全員に適用されているわけではないため、あくまで理論上の話だ。また、これは顔認証のみを対象としており、AIで生成された声のクローンはまた別の問題である。

プライバシー上のリスク

Privacy 擁護者たちは警告したYouTubeの類似性検出システムは、たとえYouTube データは、作成者の許可を得た上で、類似性検出モデルの改善にのみ使用されると述べています。

類似性検出サービスのヘルプページでは、 YouTube クリエイターは、自分の顔と声のテンプレートを、類似性検出モデルの精度向上に利用するかどうかを個別に選択できると述べている。

「類似性検出に登録すると、許可するオプションもありますYouTube 皆様の顔と声のテンプレートを使用して、類似性検出モデルの開発と改善を行います。これにより、より優れた、より正確な類似性検出技術を構築することができます。」

追記：

「 YouTubeいつでも、このデータを類似モデルの開発および改良のために使用する権利。

YouTube 対策を講じることを目的とした法案を支持するdeepfakes NO FAKES法やTAKE IT DOWN法など。これらは、オンライン上で他人の画像を不正に利用するのを阻止するために設計されています。1年前に法律となったTAKE IT DOWN法は、「同意のない親密な画像」にのみ焦点を当てています。しかし、これは他の種類のdeepfakes例えば、偽の政治家や有名人の推薦など。これらはますます一般的になっている。まだ法律になっていないNO FAKESは、はるかに広範な範囲を対象としており、人々に自身のイメージに対する連邦の権利を与えるものである。

では、このトレードは価値があるのでしょうか？

Deepfakes、性的内容に限らず、間違いなく脅威であり、特に人気を博したYouTuberにとってはなおさらだ。そして、その参入障壁はますます低くなっている。Google傘下のDeepMindの研究者たちによると、生成AIの悪用事例の多くは高度なものではなく、ブラウザさえあれば誰でも行えるような、ありふれた肖像の改変に過ぎないという。

では、あなたは自分の保護のために顔写真と政府発行の身分証明書を、長年にわたり厳しい監視にさらされてきた広範なデータ収集慣行を持つ企業に提供し、そのポリシーが変わらないことを願いますか？それとも、それをスキップして、 deepfake 商人があなたをターゲットにすることを決定しないのですか？

クリエイターがコメントしていますYouTube 6か月前にサービスを発表した動画を見た人たちは、あまり感銘を受けなかった。あるコメント投稿者はこう述べている。