「ほぼ何でもできる技術」と引き換えに、あなたは何を差し出すでしょうか？多くの人にとって、その答えは明白です。それは、自分たちが信頼できると思っていたすべてのものです。
わずか数年という短期間のうちに、人工知能（AI）ツールは、文章作成の容易化、画像生成の高速化、コーディングの迅速化、そしてほぼ瞬時の回答・助言・情報の提供といった、人々が重視し求めている利便性を、誰もが自由に利用できるようにしました。しかし、デートサイトのプロフィールを魅力的にしたり、古い写真をリメイクしたりできるのと同じツールが、オンライン上のより広い世界を操作することにも利用され得るという事実を、人々は気づき始めています。
Malwarebytes新たな調査によると、回答者の88％が「オンライン上のコンテンツが本当に人間によるものか、本物なのかを見分けるのが難しくなっている」と答え、84％が「説得力のある動画証拠」でももはや証拠として感じられないと回答した。さらに、85％が「詐欺と本物を見分けるのが難しい」と回答しており、これは昨年同じ回答をした66％から大幅に増加している。
これらは、AIが生み出す偽りの世界の最初の兆候だ。偽のウェブサイト、偽の製品、偽の動画、偽の写真、偽の声、さらには偽の人物まで溢れかえり、ウェブを飲み込もうとしている。
Malwarebytes最新レポート『Face value: How AI is reshaping trust, identity, and scams（表向きの価値：AIが信頼、アイデンティティ、そして詐欺をどのように変容させているか）』は、AIが一般市民に課す隠れた代償――現実世界や相互の信頼を崩壊させている過剰な詐欺の蔓延――を明らかにしている。
被害は大小さまざまな形で発生している。例えば、「息子の声とそっくりな留守電が入り、『トラブルに巻き込まれたので弁護士費用が必要だ』と言われた」という米国の親から、全く面識のない2人の回答者が、トランポリンで跳ね回るウサギを描いた同じAI生成動画に騙されたケース、さらには「祖父がAIで生成された粗悪なコンテンツを見せてきて、本物だと思い込んでいた」と心配する個人の事例まで、その実態は多岐にわたる。
本調査において、Malwarebytes 米国、英国、オーストリア、ドイツ、スイスの18歳以上の成人1,500名を対象に、AIの利用状況、AIに対する印象、および懸念事項についてMalwarebytes 。調査対象は性別で均等に分かれており、年齢層、地域、人種グループも幅広くカバーされ、バランスの取れた見解が得られるよう加重処理が施されています。
調査結果の詳細は、以下の報告書をご覧ください：
以下に、主なポイントと調査結果の一部をまとめました：
- 88％が、オンライン上のコンテンツが本当に人間によるものか、あるいは本物なのかを見分けるのが難しくなっていると感じている
- 84％が、説得力のある動画証拠はもはや証拠として感じられないと答えた
- 回答者の85％が、詐欺と本物を見分けるのは難しいと答えた（昨年は66％だった）
- 回答者の50％が、AIが生成した商品の写真にだまされたり、自分向けに細やかに作り込まれた詐欺メッセージを受け取ったりするなど、何らかの形でAIを利用した詐欺や詐欺行為の被害に遭ったことがある
- 19％が、何らかの形でAIによるプライバシー侵害を具体的に経験しており、そのうち10％は、許可なくAIを使って自身の性的画像が生成された経験がある
- 81％の人が、家族の肖像が盗まれることを懸念しているにもかかわらず、それを防ぐために家族用の合言葉を設定しているのはわずか13％にとどまっている
- 67％が音声クローンを懸念しているにもかかわらず、それを防ぐために留守電の録音機能をオフにしているのはわずか19％にとどまっている
- 45％が、個人的な感情的な作業（結婚式の誓いの言葉や弔辞の執筆など）にAIを使うことは問題ないと答えている
- 34％が、AIを利用してデート用プロフィールを作成したり改善したりするのは問題ないとしている
- AIを毎日利用していると自認する人の3人に1人は、本人の同意なしに露骨な画像を生成しても構わないと答えた
この一連の出来事から「敗北」という教訓を引き出すのは誤りだ。確かに、インターネットの利用にはサポートが必要だが、助けを求めることができる安全な場所はたくさんある。
Malwarebytes 新たなツールのMalwarebytes 、AIに不安を感じる方々にも、AIに期待を寄せる方々にも、インターネットの第一のルールを改めてお伝えしたいと思います。それは、「人間を忘れない」ということです。人々の声、身体、選択、そして主体性は、その人自身にのみ属するものです。
偽の動画、商品、ウェブサイト、画像などについては、助けがあるということを理解してください。誰も、偽りのインターネットの世界を一人で切り抜ける必要はありません。詐欺の見分け方、個人情報の保護、あるいは基本的な注意喚起など、人々が思っている以上に多くの選択肢があるのです。
