大手テクノロジー企業グループが、約3000件に及ぶ青少年安全訴訟の進行を阻止しようと争っているが、先日、裁判で重要な手続き上の争いに敗訴した。
州司法長官や遺族らが起こした訴訟では、Meta、Google、ByteDanceのTikTok、Snapは、自社製品が子供やティーンエイジャーにとって中毒性があり、精神衛生に有害であることを知っていたにもかかわらず、利益のために若いユーザー向けに販売を続けていたと主張している。
テクノロジー企業各社は、関係者が訴訟を起こすことを認めた連邦裁判所の判決に対し、控訴を試みた。彼らは第9巡回区控訴裁判所において、米国の重要な法律により、自分たちは訴えられることはないはずだと主張した。
その法律とは、30年前に制定された通信品位法第230条のことです。この条項は、プラットフォーム運営者はユーザーがオンラインに投稿した内容について責任を負わないと定めています。長年にわたり、ソーシャルメディア企業はこの条項をまるで防弾チョッキのように扱ってきました。ユーザーが不適切な内容を投稿した場合、運営会社は自分たちは発信者であって、投稿者ではないと主張することができたのです。
しかし、この弁護はここでは通用しないようだ。8月10日、裁判所は、通信品位法第230条は「訴訟に対する免責ではなく、責任に対する抗弁を提供するものであり、したがって上訴は時期尚早である」との判決を下した。この訴訟は、人々がオンラインに投稿した内容そのものよりも、テクノロジー企業がプラットフォームをどのように設計し、ユーザーにそのコンテンツを表示させたかという点に焦点が当てられている。
ネブラスカ・ロー・レビュー誌は、訴訟で主張されている、これらのプラットフォームをより魅力的にし、ひいては中毒性を高めるためのいくつかの手法について解説している。
この記事では、これらのプラットフォーム上での特定のやり取りがドーパミンの放出を引き起こす仕組みについて説明しています。そうしたやり取りは、誰かがあなたのメッセージに返信したり、あなたの写真に「いいね！」を押したりといった、ごく単純なものかもしれません。ドーパミンは脳の報酬系において重要な役割を果たしています。
NLRの記事では、報酬を予測不可能にするなどの手法が紹介されており、それによって人々は習慣的にアカウントをチェックし続けるようになる。無限スクロールのようなインターフェース機能も、ドーパミン分泌を促すように設計されている。この論文では、そのアイデアの考案者の言葉を引用しており、彼はそれを次のように説明している。
「行動的なコカインを摂取して、それをインターフェース全体に振りかけるようなものだ。」
ベッドの中でネガティブなニュースばかり見て時間を無駄にした経験のある人なら、誰でも共感できるだろう。
第9巡回区控訴裁判所による上訴棄却は、手続き上は限定的だが、戦略的には極めて重要である。第230条は、裁判で主張する抗弁であり、原告が裁判所に足を踏み入れるのを阻む壁ではない。第3巡回区控訴裁判所はさらに踏み込み、第230条は「プラットフォームが自ら設計したアルゴリズムによって引き起こされた損害に関する不法行為訴訟に直面した場合、プラットフォームに免責を与えるものではない」との判決を下した。
つまり、アルゴリズムは製品である。そして、その製品には欠陥がある可能性がある。
これらの訴訟の背景には、原告側がプラットフォーム各社がユーザーエンゲージメントにどのように取り組んでいたかを明らかにする証拠資料の山が積み上がっており、今月初めには同様の訴えを調査したニューメキシコ州の判決でMeta社が訴えられている。この判決は、Meta社が以下の行為を行っていたと裁判官が判断し、当初の金額に5億6700万ドルを追加したため、総額9億4200万ドルとなった。
「プラットフォームの設計を通じて公共の迷惑行為を引き起こした。」
発見が長引いている
これらの訴訟における証拠開示は、すでにMetaにとって不利なものとなっている。2016年にマーク・ザッカーバーグのものとされるメールには、10代の若者のライブ動画を親に知らせることは「おそらく最初から製品を台無しにするだろう」と書かれていた。最近の裁判書類では、ソーシャルメディア大手の従業員が自社のプラットフォームを麻薬に例えていたと主張されており、Metaの従業員の一人は次のように書いている。
「私たちは基本的に物資の押収業者です。」
Snapの状況も芳しくない。ニューメキシコ州の訴訟で提出された書類によると、2022年末までにSnapの従業員は毎月約1万件のセクストーション（性的脅迫）の報告を受けていた。内部調査の結果、被害者の70％は「Snapが何の対応も取らないことを知っていた」ため、虐待を報告しなかったことが判明した。実際、報告した30％についても、何の対応も取られなかった。
その数字は、Snap社の情報開示ではなく、ニューメキシコ州が提出した修正されていない訴状から明らかになった。
機能しない安全機能
経営陣が知っていたなら、修正はすぐに行われたはずだ。しかし、ほとんど行われなかった。ニューヨーク大学とノースイースタン大学の研究者たちは、86の若者向け安全機能をテストし、51がテストに不合格だったことを発見した。Snapchatの不合格率は73%だった。 Instagram 66％、 YouTube 55%は、TikTokは50%だった。研究者らが試したところ、9つの機能は起動すらできなかった。研究者らは、テストしたサイバーいじめ対策はすべて失敗したと報告した。
バイパスはすぐに見つかりました。「摂食障害」と入力してInstagram 検索機能とオートコンプリート機能は、摂食障害を助長するコミュニティがプラットフォームのブロックリストを回避するために意図的に使用するスペルミスを丁寧に提示する。この場合、安全性は安全とは正反対のことをしていた。
親が今できること
アプリ内の安全機能が宣伝どおりに動作するとは限りません。お子様がソーシャルメディアを利用している場合は、ご自身で設定をテストし、期待どおりに動作していることを確認してください。
テストアカウントを作成し、各設定が謳っているブロック対象を実際にブロックしているかどうかを確認してください。また、お子様にソーシャルメディアをどれくらいの時間使わせるか、あるいはそもそも使わせるかどうかについても考えてみましょう。いずれにしても、まずは家族で率直に話し合うことから始めましょう。
お子さんが知り合いからオンラインで嫌がらせを受けている場合は、すぐに親に話すように促してください。証拠を保存し、必要に応じてアカウントをブロックして通報し、嫌がらせに脅迫、恐喝、性的搾取が含まれる場合は、ためらわずに学校や警察に連絡してください。
また、プラットフォーム独自の通報システムを信頼するのではなく、全米行方不明・被虐待児童センターのサイバー通報窓口に直接、セクストーションを報告することもできます。
連邦裁判の詳しい情報については、後日こちらをご確認ください。今後数ヶ月で、史上最大規模のプラットフォームが陪審員によって判決を覆されるのか、それとも秘密裏に小切手を一枚ずつ支払って和解するのかが決まるでしょう。
脅威の報告から、それらを排除することまで。
サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。
