ウォール・ストリート・ジャーナル紙によると、 AI研究所内では、競争によってテクノロジー企業が自己改善型モデルの開発競争に駆り立てられ、それが人間の制御を逸脱する可能性があるという懸念が高まっているという。
AnthropicとOpenAIで勤務経験のあるAI研究者、ジェイコブ・コックスン氏は次のように述べている。
「AIを開発している人々は、AIが今世紀末までに人類を滅ぼす可能性があると真剣に信じている。」
Anthropicのアライメントサイエンス責任者であり、OpenAIにも勤務経験のあるエヴァン・ヒュービンガー氏は、 Xへの投稿で次のように答えた。
「私たちは、AIが人類を全滅させる可能性があると真剣に信じています！個人的には、今後10年以内に10%以上がそうなると考えています。」
ヒュービンガー氏はさらにこう付け加えた。
「私が懸念しているのは、再帰的な自己改善から生じる超知能であり、それは私たちが考えていたよりも速いスピードで進行しているということです。」
その数字は、ヒュービンガー氏個人の評価として捉えるべきです。これは予測でも、確立された事実でも、今日のチャットボットが自力で危険になるという証拠でもありません。また、私自身もそれを支持したり否定したりするのに十分な知識を持ち合わせていません。
研究者たちは、高性能システムが意図しない動作をしたり、脆弱性を悪用したり、サイバー攻撃を自動化するために利用されたりする可能性があるかどうかを積極的に研究している。
BBCの報道によると、ヒュービンガー氏は現在のモデルのリスクは低いと述べている。彼の懸念は、将来的にさらに高い自律性と能力を持つ可能性のあるシステムに集中している。
企業や政府がAI開発のペースを検討するにあたり、独立したテスト、リスクの高い自律的な利用に対する制限、開発者による透明性の確保、そしてAIシステムが被害をもたらした場合の責任追及など、合理的な安全策が必要である。
これらの対策は、サイバー犯罪者がAIを悪用して詐欺、プライバシー侵害、その他のサイバー犯罪を行うという、既に私たちが直面している問題にも対処するものであるべきです。多くの強力なテクノロジーと同様に、AIも武器として悪用される可能性があり、特にセキュリティ対策がその能力に追いついていない場合はなおさらです。
極端な予測は、特にその技術に深く関わっている人々によってなされた場合、感情に訴えかける力を持つことがある。しかし、不確実性は両刃の剣だ。深刻な警告は、無批判に信じるのではなく、精査されるべきである。
現実的なメッセージは、「AIの安全性を無視する」ことでも、「ロボットによる世界の終末に備える」ことでもありません。企業、政府、研究者は協力して、安全対策が急速な発展に追いつくようにする必要があります。
協力は競争を補完するものであり、この場合は特に重要となる可能性がある。
あなたの氏名、住所、電話番号は、すでに販売されている可能性があります。
データブローカーは、個人情報を収集し、対価を支払う者なら誰にでも販売しています。Malwarebytes Personal Data Remover 、そうしたブローカーをPersonal Data Remover 個人情報を削除し、その後も監視を続けることで、情報が再び流出しないようにします。
