まだ存在しないものを開発せよ。 その過程でいかなるデータも収集してはならない。もし違反すれば、CEOは刑事責任を問われる可能性がある。これは、6月8日に英国政府がアップルとグーグルに突きつけた最後通告に近いものだ。両社には、英国で販売されるすべてのスマートフォンやタブレットにおいて、ヌード画像をブロックするデバイスレベルの保護機能を導入するための3か月の猶予が与えられている。もしこれに従わなければ、政府は法規制を講じる。これには罰金のほか、最終手段としてテクノロジー企業の経営陣に対する刑事責任の追及も含まれる。
キア・スターマー首相は「ロンドン・テック・ウィーク」でこの措置を発表し、各企業に対し次のように述べた：
「もし彼らがそうしないというなら、我々が動き、法律を改正する。」
方針自体は明快だが、その実行はそうではない。
お子さんのスマホには、すでに何がインストールされていて、何がインストールされていないのでしょうか
両社とも、すでに子どもがヌード画像に触れるのを防ぐための対策を講じている。Appleの「コミュニケーションの安全」機能は、子ども用アカウントを持つ子どもが、「メッセージ」や「AirDrop」、「FaceTime」などのアプリを通じてヌードを含む画像や動画を送受信しようとした際に警告を表示する。同社は今週開催された「Worldwide Developer Conference（WWDC）」で、この機能に新たな機能を追加してアップデートした。
Googleの「センシティブコンテンツ警告」機能は、保護者の管理下にあるユーザーや、ログインしている保護者の管理下にない10代のユーザーに対し、Google Messages内のセンシティブな画像をぼかして表示します。ただし、この機能は画像のみを対象としており、動画は対象外です。
Appleはまもなく、英国およびその他の国々において、スマートフォン上の特定の機能を利用するために、18歳以上であることを確認することをユーザーに義務付ける予定です。これには、地域に応じて、公的機関発行の身分証明書、支払い情報、またはその他の確認方法による年齢確認が含まれます。
英国政府によれば、これらの対策は不十分だという。政府は、既存のヌード検知機能が、カメラやその他のアプリ、サードパーティ製のメッセージングサービス、検索機能には適用されていないと指摘している。つまり、保護措置の適用範囲はスマートフォンの大部分をカバーしていないということだ。カメラ、WhatsApp、Signal、Safari、そして写真ライブラリはすべて、保護者がすでに存在していると想定しているかもしれない「保護の枠」の外にある。
プライバシーを尊重したスキャンは可能でしょうか？
この発表には、他の内容と整合性が取れない一節も含まれている：
「企業は、プライバシーを侵害したり、データを収集したりすることなく、これらの措置を導入しなければならない。」
成人は利用を拒否することができますが、その場合は年齢確認を完了する必要があります。
それは容易なことではありません。Privacy 、企業が保存する情報を最小限に抑えようとしても、年齢確認は必然的に新たなデータ収集のリスクを生み出すと主張しています。AppleやGoogleがどのような仕組みを構築するにせよ、何らかの形で記録が残されることになるでしょう。コンプライアンス違反により経営陣が個人的な責任を問われる可能性がある以上、そのシステムがいつ、どのような動作をしたかを誰かが証明できなければなりません。
政府がこうした取り組みの実現可能性を示す根拠は、たった一つの製品、すなわちSafeToNet社の「HarmBlock」に依拠している。内務省はこれを、「デフォルトで安全なデバイス保護の『実証済みの事例』」と呼んでいる。HarmBlockのソースコード（非公開）は、画像やライブストリームを完全にデバイス上で分析する。
デジタルプライバシー保護団体はこの発表に不満を示した。「ビッグ・ブラザー・ウォッチ」は、子どもが大人名義で登録された端末に容易にアクセスできてしまう可能性を指摘し、大人に対する身分証明書の提示義務化は「匿名性とインターネット上のプライバシーの死」を意味すると警告した。
プライベートメッセージングアプリのシグナルは、スキャン処理が端末内でのみ実行されるという約束は「何の慰めにもならない」と述べた。なぜなら、システムがどこで稼働しようとも、その影響範囲を最終的に決定するのは技術ではなく政府だからだ：
「その適用範囲は、今日ならヌードを、明日なら政治的発言を摘発するという、政府の気まぐれや禁止令によって決まることになるだろう。」
アップルは以前にも同様の取り組みを行ったことがある。2021年、同社は既知の児童性的虐待画像を、画像のハッシュ値を既知の素材のデータベースと照合することで端末上で検出する別の計画を発表したが、プライバシー擁護派からの激しい反発を受け、ひっそりとこの計画を棚上げにした。
今日、家族ができること
9月が終わる頃には、自主的な対応か、あるいは急ごしらえの法整備が行われることになるでしょう。いずれにせよ、それらは今、お子様のスマートフォンに何が保存されているかという事実を変えるものではありません。現在、10代の若者が最も頻繁に利用しているメッセージングアプリは、十分な保護が施されていません。多くの「グルーミング」や「セクストーション」の事件は、OSに組み込まれた安全機能の適用範囲外で動作するアプリ上で始まっています。保護者と子供たちは、安全を守るために以下の対策を講じることができます：
- お子様用アカウントが設定されたiPhoneでは「コミュニケーションの安全」を、管理Android 「不適切なコンテンツの警告」を有効にしてください。これらは問題のほんの一部にしか対処できないかもしれませんが、何もしないよりはましです。
- お子さんに「強制的な共有」について話し合ってください。インターネット・ウォッチ・ファウンデーション（IWF）の報告によると、2024年に同財団が審査した通報の91％には、子ども自身が投稿した自作のコンテンツが含まれていました。子どもたちは、オンライン上で加害者から露骨な画像を送るよう強要されるケースが少なくありません。インターネット・ウォッチ・ファウンデーション（IWF）では、オンライン上で親密な画像の送信を強要されている人向けの支援情報一覧を公開しています。
- どのようなポリシーよりも重要な基本事項を徹底しましょう。すべてのアカウントに固有のパスワードを設定し、多要素認証を導入してください。
- 知り合いの子供の写真をオンラインで共有する際は注意が必要です。近年、犯罪者がAIを利用して、露骨な描写のない画像から性的コンテンツを作成し、それを恐喝に利用するケースが増えています。
