7月28日、OpenAIは、社内サイバーセキュリティ評価中にサンドボックスから脱出し、Hugging Faceにハッキングしたエージェントに関する最新情報を公開した。
今回のアップデートで、OpenAIは、問題の「不正な」システムは、より高性能なプレリリース版の研究モデルであり、一般公開を目的としたものではなく、現在は無効化され、研究目的のみに限定してアクセスが制限されていることを改めて強調した。また、他のモデルやエージェントによる同様の挙動は確認されていないとも述べている。これらのことから、OpenAIは「ハグフェイス」事件を、より広範なパターンの始まりではなく、単発的な出来事として捉えていると言える。
セキュリティの観点から、今回のアップデートで特に注目すべき点は以下の4つです。
- OpenAIは、評価環境にはインターネットへの直接アクセスはなかったと明言した。インターネットにアクセスするために、モデルはテスト環境で使用されていたパッケージレジストリキャッシュプロキシであるArtifactoryに存在する、これまで知られていなかったゼロデイ脆弱性を特定し、悪用した。OpenAIは、この脆弱性をベンダーに開示しており、Hugging Face社と協力して調査を継続していると述べている。
- このシステムの目的は、単に「テストに勝つ」（ExploitGymで不正行為をする）ことであり、損害を与えることではなかったにもかかわらず、数日間にわたる複数企業に及ぶセキュリティインシデントを引き起こしてしまった。悪意のない意図であっても、その影響は限定的なものではなかった。
- 「内部限定」モデルであっても、インフラ制御が失敗した場合、外部の被害者に影響を与える可能性があります。実験室環境は、サイバー攻撃可能なシステムを魔法のように封じ込めるわけではありません。
- また、今回の調査では、モデルが一般に公開されているサービス上のアカウントレベルの認証情報を特定し、使用した事例が少数ながら確認された。これには、ハギングフェイス事件に関連して4つのサービスにわたる4つのアカウント、およびその他の評価中にアクセスされた少数のアカウントが含まれる。
今回の攻撃者はたまたまOpenAIの研究員だったが、使用されたツール、手法、そして影響は、インシデント対応に携わった経験のある人なら誰でも見覚えのあるものだ。今回のケースでは、たとえ悪意がなかったとしても、その影響は限定的なものではなかったことが分かった。
不都合な真実は、AIエージェントにツール、アクセス経路、そして成功への強い動機を与えてしまうと、そのモデルが一般公開を意図しているかどうかに関わらず、AIエージェントは見つけられるあらゆる弱点を悪用する可能性があるということだ。
これはまた、認証情報、APIキー、その他の機密情報を、一般にアクセス可能なリソースに放置してはならないということを改めて認識させるものでもある。
脅威の報告から、それらを排除することまで。
サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。
