チャットボットは人を殺したりはしない。しかし、他人が人を殺すのを手助けすることはある。
4月9日、フロリダ州のジェームズ・ウスマイヤー司法長官は、フロリダ州立大学で発生した銃乱射事件においてChatGPTが果たした可能性のある役割について、同庁がOpenAIを調査中であることを発表し、次のように述べた：
「召喚状が届くことになるだろう。」
1年前に起きたキャンパスでの銃乱射事件では、2人が死亡し、5人が負傷した。裁判所の文書によると、犯人はChatGPTと200件以上のメッセージをやり取りしており、その中には「FSUの学生会館はいつ一番混雑しているか」といった質問も含まれていた。被害者遺族の弁護士団はさらに踏み込み、ChatGPTについて次のように主張している：
「発砲が始まる直前に、犯人に銃の作動方法を教えた。」
形が浮かび上がってくる
AIシステムと長時間対話した結果、精神的に不安定な人々が自傷行為に及ぶ事例が確認されています。現在、OpenAIは、ChatGPTが自殺や深刻な精神的苦痛の一因となったとする7件の訴訟に直面していますが、同社はこれらの主張を争っています。
AIを長期間使用した後に他者に対して暴力を振るう事例についても、注目が集まっている。広く報じられたある事例では、精神的な問題を抱えていたコネチカット州の男性が、ChatGPTから次のような指示を受けた後、母親を殺害し、自らも命を絶ったとされる。
「エリック、君は正気だ。君の直感は鋭く、ここでの警戒心は十分に正当なものだ。」
2月10日、ブリティッシュコロンビア州タンブラー・リッジで、18歳のジェシー・ヴァン・ルーツラーが8人を殺害した。自宅では母親と異父兄弟を、その後、中等学校で生徒5人と教育補助員1人を殺害した。報道によると、OpenAIは2025年6月、ヴァン・ルーツラーのChatGPTアカウントを「暴力行為の助長」を理由に警告し、利用停止処分にしていた。
12歳の被害者の家族が提起した訴訟によると、OpenAIの従業員12名が、これらの投稿が差し迫った危険を示すものとしてフラグを立て、法執行機関に通報すべきかどうかを検討したが、当時はその基準を満たしていなかった。ヴァン・ルーツラーは、単に2つ目のアカウントを開設して活動を続けることで、利用停止処分を免れた。
10人のAIのうち8人が、10代の暴力に関与している
AIは、悪意のある意図を見抜き、そうした会話を遮断する上で、その有効性を証明できていない。デジタル・ヘイト対策センターの研究者たちは、暴力的な攻撃を計画している13歳の少年を装い、10種類のチャットボットをテストした。彼らはAIと、暗殺、銃撃、爆破などの実行可能性についてやり取りを行った。報告書によると、10体のボットのうち8体が、半数以上のケースで、銃撃を企てる少年の手助けをしていた。
ChatGPTは61%のケースで支援を申し出、その中にはシナゴーグへの攻撃においてどの破片が最も致命的になるかについての具体的な助言も含まれていた。DeepSeekはあるセッションの最後に次のように締めくくった：
「楽しい（そして安全な）撮影を！」
Anthropicの「Claude」とSnapchatの「My AI」だけが暴力を控えるよう促した。一方、「Perplexity」と「Meta AI」は最も安全性が低く、それぞれ97％と100％のケースで、攻撃を企てる人物を支援していた。
同報道によると、Character.AIはユーザーに対し、ある健康保険会社のCEOに対して「銃を使う」よう提案したという。
OpenAIが取り組んでいると述べていること
OpenAIの定型的な回答は、毎週9億人以上がChatGPTを日常的な、無害な目的で使用しているというものだ。これは事実である。しかし、暴力的な意図を持つユーザーがたった一人いて、安全対策が一つでも機能しなくなれば、事態は悪化する可能性があるというのもまた事実である。
タンブラー・リッジ事件の後、OpenAIは自社のプロトコルが機能しなかったことを認めた。同社はカナダ政府に対し、新たに強化された通報ガイドラインの下であれば、ヴァン・ルーツラーのアカウントを法執行機関に通報していたはずだと説明した。しかし、ブリティッシュコロンビア州のデビッド・イービー州首相が指摘したように、それは「慰めにもならない」ものだった。
OpenAIは、フロリダ州の調査に協力する意向を示し、技術の改善にも取り組んでいると述べている。同社は昨年9月にペアレンタルコントロールを導入した 。
しかし、それや閾値の見直しは、安全第一の備えというよりは、あくまで事後対応に過ぎない。そして疑問は残る。なぜ利用停止処分を受けたユーザーが、簡単に新しいアカウントを作成し、以前と同じように活動を再開できてしまうのか？また、従業員が差し迫ったリスクとして何かを報告した際、閾値の設定が依然としてそれを否定するような判断を下すようなことが次に起きたら、どうなるのか？
チャットボットが、被害妄想を抱く男性に「その直感は正しい」と告げたり、10代の若者が学校での銃乱射を計画するのを手助けしたり、13歳を装った人物に銃弾の破片に関するアドバイスを提供したりできるとしたら、こうしたシステムは「役に立つこと」を第一に、「慎重さ」を二の次にして構築されたものだとますます思えてくる。次の調査が、さらに深刻な事態に関するものになる前に、この状況を変える必要がある。
