88％の人がオンライン上の情報を見分けるのに苦労している

「ほぼ何でもできる技術」と引き換えに、あなたは何を差し出すでしょうか？多くの人にとって、その答えは明白です。それは、自分たちが信頼できると思っていたすべてのものです。

わずか数年という短期間のうちに、人工知能（AI）ツールは、文章作成の容易化、画像生成の高速化、コーディングの迅速化、そしてほぼ瞬時の回答・助言・情報の提供といった、人々が重視し求めている利便性を、誰もが自由に利用できるようにしました。しかし、デートサイトのプロフィールを魅力的にしたり、古い写真をリメイクしたりできるのと同じツールが、オンライン上のより広い世界を操作することにも利用され得るという事実を、人々は気づき始めています。

新たな研究によるとMalwarebytes 88%の人が、オンライン上のコンテンツが本当に人間によるものなのか、本物なのかを見分けるのが難しくなってきていると回答し、84%が「説得力のある動画証拠」がもはや証拠として感じられないと回答した。さらに、85%が詐欺と本物を見分けるのが難しいと回答しており、これは昨年同じことを言った66%から大幅に増加している。

これらは、AIが生み出す偽りの世界の最初の兆候だ。偽のウェブサイト、偽の製品、偽の動画、偽の写真、偽の声、さらには偽の人物まで溢れかえり、ウェブを飲み込もうとしている。

最新のレポートMalwarebytes 「額面価値：AIが信頼、アイデンティティ、詐欺をどのように変えているか」は、 AIが一般市民に及ぼす隠れたコスト、つまり現実と互いに対する信頼を崩壊させる過剰な詐欺を明らかにしている。

被害は大小さまざまな形で発生している。例えば、「息子の声とそっくりな留守電が入り、『トラブルに巻き込まれたので弁護士費用が必要だ』と言われた」という米国の親から、全く面識のない2人の回答者が、トランポリンで跳ね回るウサギを描いた同じAI生成動画に騙されたケース、さらには「祖父がAIで生成された粗悪なコンテンツを見せてきて、本物だと思い込んでいた」と心配する個人の事例まで、その実態は多岐にわたる。

この研究では、 Malwarebytes 米国、英国、オーストリア、ドイツ、スイスの18歳以上の成人1,500人を対象に、AIの利用状況、感想、懸念事項について調査を行った。サンプルは男女比が均等で、年齢、地域、人種グループも幅広く網羅し、バランスの取れた見解が得られるよう重み付けを行った。

調査結果の詳細は、以下の報告書をご覧ください：

レポートを読む

以下に、主なポイントと調査結果の一部をまとめました：

88％が、オンライン上のコンテンツが本当に人間によるものか、あるいは本物なのかを見分けるのが難しくなっていると感じている
84％が、説得力のある動画証拠はもはや証拠として感じられないと答えた
回答者の85％が、詐欺と本物を見分けるのは難しいと答えた（昨年は66％だった）
回答者の50％が、AIが生成した商品の写真にだまされたり、自分向けに細やかに作り込まれた詐欺メッセージを受け取ったりするなど、何らかの形でAIを利用した詐欺や詐欺行為の被害に遭ったことがある
19％が、何らかの形でAIによるプライバシー侵害を具体的に経験しており、そのうち10％は、許可なくAIを使って自身の性的画像が生成された経験がある
81％の人が、家族の肖像が盗まれることを懸念しているにもかかわらず、それを防ぐために家族用の合言葉を設定しているのはわずか13％にとどまっている
67％が音声クローンを懸念しているにもかかわらず、それを防ぐために留守電の録音機能をオフにしているのはわずか19％にとどまっている
45％が、個人的な感情的な作業（結婚式の誓いの言葉や弔辞の執筆など）にAIを使うことは問題ないと答えている
34％が、AIを利用してデート用プロフィールを作成したり改善したりするのは問題ないとしている
AIを毎日利用していると自認する人の3人に1人は、本人の同意なしに露骨な画像を生成しても構わないと答えた

この一連の出来事から「敗北」という教訓を引き出すのは誤りだ。確かに、インターネットの利用にはサポートが必要だが、助けを求めることができる安全な場所はたくさんある。

その間Malwarebytes 私たちは新しいツールを提供するために尽力していますが、AIに不安を感じている方々にも、期待を寄せている方々にも、インターネットの第一のルールを改めてお伝えしたいと思います。それは、「人間を忘れないで」ということです。人々の声、身体、選択、そして主体性は、彼ら自身のものであり、彼らだけのものであるべきです。

偽の動画、商品、ウェブサイト、画像などについては、助けがあるということを理解してください。誰も、偽りのインターネットの世界を一人で切り抜ける必要はありません。詐欺の見分け方、個人情報の保護、あるいは基本的な注意喚起など、人々が思っている以上に多くの選択肢があるのです。