Anthropicがこれまでに開発した中で最も高性能なモデルである「Claude Mythos Preview」（通称Mythos）は、特にサイバーセキュリティ分野において、AIの性能に「飛躍的な進歩」をもたらしたと評されている。
Anthropic社は数週間前まで「Mythos」の存在を秘密にしようとしていたが、データ漏洩により、同社が「これまでで最も強力な人工知能」と称するシステムの存在が明らかになった。このモデルは、強力な防御ツールであると同時に、潜在的には深刻な攻撃型サイバー兵器とも見なされている。
そのため、同社はアクセスを厳しく制限しており、現時点では市場に広く公開する予定はないことを示唆している。大規模なソフトウェアの脆弱性を自律的に発見し、さらには連鎖的に特定できるとされるその能力こそが、この技術に対する過度な期待と危険性の両方の核心にある。
ソフトウェア、システム、プラットフォームの新たな脆弱性を独自に発見し、たとえ他の脆弱性と組み合わせて利用する必要があっても、それらをエクスプロイトに変換できるツールを想像してみてください。
悪用されれば、これは我々のサイバーセキュリティにとって重大な脅威となりかねない。そのため、Anthropicは、大手テクノロジー企業や、厳選された政府・セキュリティ機関など、世界中の限られた組織のみへのアクセスを許可している。報道によると、国防総省がAnthropicをサプライチェーン上のリスクと位置付けているにもかかわらず、NSAはすでに「Mythos Preview」を利用しており、機密システムのストレステストや強化に役立てているようだ。
Mythosは、既存のツールよりも迅速かつ確実に大規模なコードベース全体の脆弱性を発見でき、1つのシステム内で複数の欠陥を探し出し、それらを組み合わせて多段階のエクスプロイトチェーンを構築し、システムへの侵入を完了させることができます（例えば、単純なWebバグからドメインの完全な乗っ取りに至るまで）。 バグ報奨金ハンターが別の脆弱性を見つけるには数ヶ月を要し、ましてや既に発見された脆弱性と連鎖可能なものを見つけることなどなおさらです。最初の脆弱性が見つかる前にそれを成し遂げることは、極めてあり得ないでしょう。
現実的には、攻撃の速度が上がり、侵害の手口がより複雑化し、企業が脆弱性を悪用される前に修正する時間が短くなることを意味する。
Anthropic社自身も、Mythosは最小限の監視で長期間稼働できることを強調しており、これは、人間のチームでは到底成し得ない規模で組織的な攻撃キャンペーンを展開できることを意味する。
Anthropicは、社内文書の中でこれらのセキュリティリスクを指摘した：
- AIは攻撃作戦に必要な最低限のスキルを低下させる。技術力の低い攻撃者でも非常に効果的なツールを利用できるようになり、高度な攻撃の件数が大幅に増加する可能性がある。
- ファジングや辞書攻撃、その他のブルートフォース攻撃といった手法は、自動化によって高速化されると、その有効性が格段に高まります。AIを活用した反復攻撃により、攻撃が検知されるまでの間に、攻撃者ははるかに多くの試行を行うことが可能になります。
しかし、最も懸念される結論は、現在のAI開発の段階において、攻撃側の進化のスピードがより速く、セキュリティチームは一般的に、攻撃者よりもAIツールの導入が遅れているという点である。
ご存知の通り、サイバーセキュリティにおけるAIには二面性があります。新たな脅威から身を守る助けとなる一方で、脅威を生み出すのにも利用され得るのです。だからこそ、悪用されれば、Mythosは手強い敵となり得るのです。
目標は変わらないが、そこに至る道筋はMythosのようなツールによって整えられている。攻撃者の立場からすれば、到達すべき目的地に新しい点は何もない。新しいのは、Mythosが地図や乗り物、そして運転の大部分を自動化してくれるようになったという点だ。
脅威を報告するだけでなく、取り除く
サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。
