今週の「ロック・アンド・コード」ポッドキャストでは…
昨年5月、AIに関する警告が、思いがけない場所から発せられた。その場所とは、アウシュヴィッツ＝ビルケナウ国立博物館である。
博物館はソーシャルメディアに公開投稿し、 Facebook ホロコーストで亡くなった人々の偽画像を生成したAI（人工知能）に関する報告があった。AIを使って偽画像を生成したにもかかわらず、その画像に写っている人物は実在の人物だった場合もあった。彼らには実名、出生地、そして強制移送の物語があり、それらはアウシュヴィッツ＝ビルケナウ国立博物館自身が以前に公開していた。また、彼らの顔は実際に残された写真に写っており、それらの写真が偽画像の生成に悪用された可能性が高い。
つまり、ネット上の誰か、あるいはあるグループが、ホロコーストのディープフェイクを作成していたということだ。
アウシュヴィッツ博物館がウェブサイトで次のように記している：
「これらは犠牲者の実際の写真ではありません。これらはデジタルで作り出されたものであり、しばしば様式化や美化が施されており、追悼の行為を虚構的な演出へと変質させてしまう危険性をはらんでいます。アウシュヴィッツの歴史は、十分に記録された事実です。AI画像を用いてその視覚的記録を改変することは、その意図がどうであれ、歪みをもたらすことになります。」
数か月後、その真の目的が何であったか、世間に明らかになった。それは金だった。
BBCの調査により、国際的なネットワークがFacebook AI生成画像を投稿して、その画像の潜在的な拡散力でお金を稼ぐアカウント。これは「AIスロップ」と呼ばれることもある問題だが、大きなインセンティブが伴う。このような画像を作成するアカウントが招待されると、 Facebookのコンテンツ収益化プログラムを利用すれば、クリックを獲得できるコンテンツを投稿するだけで、月に1,000ドル稼ぐことができる。
そしてさらにFacebook BBCの調査によると、それはホロコーストに関するAI生成画像を投稿する複数のアカウントが存在することを意味する。BBCは次のように報じた。
「AIスパマーたちは、バイオリンを弾く囚人や、柵の境界で再会する恋人たちなど、あたかも[アウシュヴィッツ]の内部で撮影されたかのような偽の画像を投稿し、数万件もの「いいね」やシェアを集めている。」
今日、嘘をついて利益を得るというビジネスモデルは現実のものとなっている。人々はAIを利用して、恐ろしい事柄を心地よく感じさせたり、事実無根の事柄を恐ろしく感じさせたりするような偽の画像を作成し、ビッグテック各社のプラットフォームによってサービス停止処分を受けるまで利益を上げ続けることができる。今回のケースでは、BBCの調査があったからこそ、ようやくそのような措置が取られたのである。 実際、ソーシャルメディア・プラットフォームによるこうした不作為こそが、ドイツ政府や複数のホロコースト記念機関を駆り立て、今年初めにこの種のコンテンツに対するより厳格な管理と規制を求める公開書簡を送付するに至ったのである。
署名者たちが書簡で警告したように、こうした記述が歴史を歪曲することによる経済的な誘因は、容認できるリスクの範囲をはるかに超えています。書簡の全文はこちらでご覧いただけます。
本日、ホストのデビッド・ルイスが司会を務めるポッドキャスト『Lock and Code』では、公開書簡に署名した機関の一つである「ナチスの犯罪の犠牲者を追悼するハンブルク記念館・学習センター財団」で、デジタルコミュニケーションに関する研究を行う歴史家クララ・マンスフェルト氏をゲストに迎えました。対談の中でマンスフェルト氏は、歴史へのデジタルアクセス、AI生成画像による事実記録の改ざん、そして真実を見極めることが困難になった際に社会が直面する脅威について語っています。
「歴史的な画像を見るたびに、真っ先に『あれは本当に実在するものなのか、それともAIが生成したものなのか』と考えてしまうようになったらどうなるでしょうか。それが社会全体にとって何を意味するのか、私たちはまだ十分に理解できていないと思います。」
本日、対話の全編をお聴き逃しなく。
番組ノートとクレジット：
イントロ音楽: 「Spellbound」 by Kevin MacLeod (incompetech.com)
クリエイティブ・コモンズ 表示 4.0 ライセンスの下で提供されています
http://creativecommons.org/licenses/by/4.0/
アウトロ音楽: 「Good God」 by Wowa (unminus.com)
よく聞いてください。 Malwarebytes 私たちはサイバーセキュリティについて語るだけでなく、それを提供します。
Lock and Codeリスナー限定のMalwarebytes Premium Securityで、あなたの個人情報、ファイル、システム、そして経済的な安定を脅かすオンライン攻撃から身を守りましょう。
