ドイツの裁判所は、Googleが自社のAIサマリーによって生成された名誉毀損的な記述について、直接的な責任を負う可能性があるとの判決を下した。要するに、裁判所は、AIによる検索結果については再確認すべきだと人々に伝えるだけでは、その結果に含まれる内容に対する責任を免れるには不十分であるとした。
ドイツの出版社2社が、AIサマリーにおいて、リンク先の記事にはそのような主張を裏付ける内容がないにもかかわらず、自社が詐欺や「疑わしい商慣行」に関与しているかのように虚偽の描写がなされていることを発見したことを受け、ミュンヘン地方裁判所はGoogleに対し仮処分命令を発令した。
この判決は、ドイツの枠を超えて大きな波紋を呼ぶ可能性がある。裁判所は事実上、Googleが自社のAIサマリーによって生成された名誉毀損的なコンテンツについて、直接的な責任を負う可能性があるとの判断を下した。裁判所は、「あくまでAIに過ぎないのだから、あまり信用しすぎるな」という常套句を切り捨て、ある一点を明確にした。つまり、個人や企業を断定的に中傷するようなシステムを構築した場合、たとえその内容がAIによって「幻覚」されたものであったとしても、その発言内容に対して責任を負う可能性があるということだ。
AIによる概要は、単なる無害な提案ではありません。この件において、裁判所はそれらをGoogle自身の主張として扱い、それに伴うあらゆる法的責任を問うこととなりました。
出版社が差止請求書を送付した際、Googleは類似の主張が表示されるのを直ちに停止しなかった。この点が判決において決定的な要素となった。裁判所は、単に第三者のコンテンツを一覧表示する従来の検索結果とは異なり、AI概要は「独立した、新規の、かつ実質的な記述」を生成するものであると指摘した。
また、こうした記述を生成するモデルやロジックを調整できるのはGoogleだけであるため、システムが同じ、あるいは類似の虚偽情報を繰り返すのを確実に防げるのもGoogleだけである。この件について、裁判所はGoogleに責任があるとの判断を下した。
長年にわたり、検索エンジンは、オープンウェブを大規模にインデックス化する際、有害なコンテンツが一定程度混入することは避けられないという理屈のもと、広範な保護を受けてきました。検索結果を表示することは、それを推奨することを意味するわけではありません。検索エンジンは媒体であり、発行者ではないのです。
しかし、AIによる概要機能が情報を要約したり言い換えたり、時には事実をでっち上げたりして、それらを検索結果の上位に表示するようになると、状況は一変する。
AIサマリーは追加機能であり、検索機能の動作に不可欠なものではありません。しかし、AIサマリーの魅力は、迅速かつ確信に満ちた回答にあるのですが、それこそが危険な点でもあります。回答が間違っている場合、多くのユーザーは出典を確認するためにリンクをクリックしない可能性があります。
この判決は暫定的なものであり、上訴される可能性もあるが、そのメッセージは明確だ。つまり、AIによる検索結果は、法的責任を消し去る魔法の粉などではないということだ。システムが大規模に導入され、新たなコンテンツを生成し、信頼されるよう設計されている場合、誤りの可能性に関する免責事項だけでは不十分かもしれない。
数字で見る
Google AI Overviewsは、GoogleのAIモデル「Gemini」によって提供されています。他のAIシステムと同様、このシステムも、誤った回答や根拠の乏しい回答を、確信を持って提示してしまうことがあります。
ピュー・リサーチは数百人のユーザーの閲覧データを分析した結果、Googleの検索結果ページにAIサマリーが表示されると、従来の検索結果へのクリック率が約15％から約8％に低下することが分かった。
ニューヨーク・タイムズ紙がAIの概要説明を分析したところ、その正確性はおよそ10回中9回であることが判明した。しかし、Googleが年間5兆件以上の検索を処理していることを考えると、わずかな誤答率であっても、数百万件もの誤った回答につながる可能性がある。
そして、そうした誤りは必ずしも情報源の質が悪いからというわけではありません。Googleが正しい情報を掲載したページへのリンクを表示している場合でも、そのAIが誤った回答を生成してしまうことがあります。正確な回答の半数以上が「根拠不十分」と分類されており、これはAI Overviewが引用したウェブサイトが、提供された情報を十分に裏付けていなかったことを意味します。
ここで得られる最大の教訓は、AIによる検索結果を必ず再確認することです。自信たっぷりに提示され、リンクも含まれているからといって、その回答を鵜呑みにしてはいけません。
検索ページ上でAIシステムの発言が説得力があったというだけの理由で、ユーザーは実際の脅威へと誘導されたり、効果的な保護策から遠ざけられたりする可能性がある。
自身や自社に関する虚偽または名誉毀損的なAI要約を見つけた場合は、その内容を徹底的に記録してください。スクリーンショットを撮り、検索キーワードを保存し、訂正依頼を提出し、プラットフォームからの回答（あるいは回答がない場合）を記録として残しておきましょう。
詐欺師はあなたの端末をハッキングする必要はありません。あなたが一度クリックするだけでいいのです。
Malwarebytes Identity Theft 、不審な動きが問題となる前に検知します。
