ネット上の反発を受け、Googleはわずか1日でGoogle EarthのAIツールを撤回した。 Malwarebytes

Googleは、予想通りの批判の嵐の後、Google Earth内でユーザーが人工画像を生成できるAI機能を撤回した。 deepfakes 。

Googleは7月30日、Google Earthのウェブ版にAI画像生成機能を実装した。この機能は誰でも利用可能だった。

このシステムは、GoogleのNano Banana 2画像生成ツールを使用して画像を生成しました。このツールは既に簡単なテキスト入力から画像を生成できますが、Google Earthで実行する利点は、実際の衛星画像をベースとして使用できることです。 deepfake バージョン。これにより、実際の建物や風景のディテールを正確に再現したAI画像を作成しやすくなります。

同社はローンチに関する最初のブログ記事で、学生は「歴史を生き生きと伝える」ために、不動産業者は専門的な不動産プランを作成するためにこのシステムを利用できると述べていた。しかし、このシステムが人々を誤解させるために悪用される可能性があると警告する声もあった。

数時間以内に、研究者や報道機関は、このツールが実際には起こらなかった出来事を、起こらなかった場所で、写真のようにリアルな衛星画像として簡単に生成できることを実証した。

オランダのオープンソース情報研究者ヘンク・ファン・エス氏は次のように説明した。「メキシコ国境の難民、イランの原子力発電所、アムステルダムでの墜落事故現場、ガザ地区の爆弾クレーターのある病院など、様々な場所で調査を試みたが、どれも拒否されなかった」。

NPRは、この新しい機能で何が可能になるかを実証するために、イランの火災の画像を捏造し、 deepfake ワシントンDCが水没したというニュースが流れた。BBCは、崩壊したエッフェル塔や、陥没穴に飲み込まれたギザの大ピラミッドの映像を流した。このサービスには一定の安全対策が講じられていたにもかかわらず、BBCの偽情報対策サービス「Verify」は、基本的なAIプロンプトをいじることで、それらの対策を回避することができた。

Googleは声明でこの失敗を認めた。 X :

「地理空間情報の専門家の方々がこの機能を様々な用途で活用されているのを確認していますが、同時に、当社のポリシーに違反していると思われる生成画像のスクリーンショットを共有しているユーザーも確認されています。そのため、より厳格なセキュリティ対策を講じる間、Google Earth のこの機能を一時的に停止します。」

同社は、そのアイデアを二度と再導入しないとは明言しなかった。

ユーザーたちは明らかに不満だった。「開発チームの誰も全く同じ懸念を抱かなかったなんてありえない」とあるユーザーはコメントし、「君たちは完全に世間知らずだ」と別のユーザーは非難した。

Googleの代替策は、SynthIDウォーターマークと、生成された画像が他のユーザーが閲覧できるGoogle Earthのメイン画面に表示されないようにすることでした。SynthIDはGoogle DeepMindのウォーターマークシステムで、AIが生成した画像のピクセルに埋め込まれた目に見えない信号であり、互換性のある検出器が後でそれらを検出できるようにします。Googleはこれを、より広範なAI業界で採用されているC2PAメタデータ標準と並ぶ、自社のプロベナンススタックの半分として位置付けています。

理論上、この信号は圧縮やソーシャルメディアへの再アップロードにも耐えられるはずだった。しかし、現実と向き合うと、その主張は崩れ去った。透かしは、GoogleのGeminiなどのAIサービスで検出可能だ。ユーザーには見えないため、スクリーンショットを撮ってどこにでも共有できてしまう。誰もが画像の出所を確認できるとは考えにくい。研究者らはまた、GeminiがSynthID透かしの付いたAI生成画像を確実に識別できないことも報告している。

これはあなたにとって何を意味するのか

コンテンツ制作者たちは既に、実際には起こらなかった出来事を映した偽のAI画像を制作していた。従来、衛星画像はオープンソースジャーナリズムの重要な要素であった。それを巧妙に偽造すれば、記者が実際に何が起こったのかを確認するために用いる参照層を攻撃することになる。

これは、AIに対する信頼が著しく低下している時期と重なります。6月に発表した当社の調査によると、88%の人がオンライン上のコンテンツが本当に人間によるものか、あるいは本物かを判断するのが難しくなっていると回答し、84%の人が「説得力のある動画証拠」でさえもはや証拠とは感じられないと回答しています。

災害、兵器攻撃、国境越えなどの衝撃的な衛星画像がタイムラインに表示されたら、まずは深呼吸をしましょう。通信社が匿名記者の投稿かどうかを確認し、画像提供元を示すキャプションを探してください。もし匿名アカウントが劇的な一枚の画像を投稿している場合は、昨夜ブラウザのタブで編集された画像を見ている可能性が高いと考えましょう。

AI画像を識別する方法の詳細については、弊社のガイドをご覧ください。

業界の流通モデルは、明らかにユーザーを実験グループとして扱っている。今や、読者や視聴者にとって唯一信頼できるツールは、批判的なメディアリテラシーだけである。

脅威の報告から、それらを排除することまで。

サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。