ストリーミングボックスは、見た目はコンピューターとは似ても似つかないかもしれません。しかし、安価なデバイスを十分に接続すれば、AIモデルを実行できるのです。
Anthropicの研究者たちは、 15種類のノーブランドのAndroid TVボックスでGoogle Gemmaモデルを実行することでこれを実証しました。彼らは、小型モデルがスマートオーブンやテレビボックスなどの脆弱なIoTデバイスにすぐに広がる可能性があると警告し、次のように述べています。
「私たちの実験によると、小型AIモデルは、スマートオーブンやノーブランド品などの市販のIoTデバイス上で自己複製できるほどの能力を数ヶ月以内に獲得できる可能性がある。」 Android テレビ受信機。
このシナリオでは、AIは単に攻撃者が悪意のあるコードを作成するのを手助けするだけではありません。AIは複製を実行するソフトウェアの一部となるのです。
アントロピックはこのプロセスを4つの段階に分けています。
- 別のデバイスを探してください。
- その上でコードを実行する能力を獲得する。
- AIモデルを実行するために必要なソフトウェアをセットアップします。
- 新しい宿主から拡散を続ける。
研究者たちは、AIエージェントがこの一連の動作を完了できるかどうかを検証した。しかし、侵害された家庭用デバイス上で、小型モデルが独立して拡散・動作する様子は実証されなかった。
使用されたテストAndroid 認証されていないデバッグアクセス権限を持つエミュレータでは、適切に保護されたデバイスよりもエージェントがアクセスしやすくなる。デバイス間の大容量ファイル転送や継続的な通信は、現実世界での複製を検出しやすくする可能性がある一方、限られた計算能力は複製を遅らせる可能性がある。重要な点として、今回の実験では、複製プロセスを完了するのに十分な能力を持ち、かつ対象となる消費者向けハードウェア上で実行できるほど小型なモデルは実証されなかった。
アントロピック社は、改良がこれまでのペースで続けば、小型モデルでも2026年末までに必要な能力に達する可能性があると予測している。
イリノイ大学の助教授であるヴァルン・チャンドラセカラン氏はAFP通信に対し、今回の調査結果は関連研究と一致しているものの、アントロピック社の研究は独立した検証を受けていないと注意を促した。同氏は、AIシステムが暴走するよりも、AIを使って攻撃を強化する人間の方が、現在より大きな脅威であると指摘した。
スマートデバイスを標的としたボットネットは既に問題となっている。
犯罪者が接続されたデバイスを乗っ取る行為は、今に始まったことではない。Miraiとその派生マルウェアは、ルーター、防犯カメラ、デジタルビデオレコーダーなどをボットネットに組み込み、分散型サービス拒否（DDoS）攻撃を仕掛け、大量のトラフィックでサービスを麻痺させてきた。BADBOX 2.0は、また別の悪用形態を示している。侵害された消費者向けデバイスは、住宅用プロキシサービスなどの活動に利用され、他人のトラフィックを被害者のインターネット接続経由でルーティングする。
どちらもAIの自律的な複製を実証しているわけではないが、接続されたデバイスが犯罪者にとってのインフラになり得ることを示している。
今できること
現実的な対策としては、攻撃者が接続機器を悪用する機会を減らすことです。
- 既知の脆弱性への曝露を減らすため、オペレーティングシステム、ソフトウェア、ファームウェアを常に最新の状態に保ってください。
- ファームウェアやセキュリティアップデートを継続的に提供してくれる信頼できる販売店から購入しましょう。ソフトウェアが信頼できなかったり、セキュリティ修正プログラムを入手できなかったりする安価なデバイスは、魅力が薄れます。
- 無料ストリーミングコンテンツを謳う非公式アプリストアは避けてください。FBIはBADBOX 2.0ガイドラインの中で、これらのマーケットプレイスを特に警告対象として挙げています。
- アプリを動作させるために保護機能を無効にしないでください。Google Play Protect をオフにするよう要求されるのは警告サインです。 Android Play Protect認証を受けていないデバイス。
- 不審な点に気づいた場合は、調査中はデバイスをネットワークから切断してください。
- セキュリティソフトウェアを実行できないスマートデバイスは、ゲストネットワークなど、コンピュータやスマートフォンとは隔離された別のネットワークに接続してください。
詐欺師たちは、あなたが思っている以上にあなたのことを知っています。
Malwarebytes Mobile Security 、フィッシングや詐欺SMS、悪意のあるサイトなどからユーザーをMobile Security 。AIを活用したリアルタイムの「Scam Guard」機能が標準搭載されています。
