今週の「ロック・アンド・コード」ポッドキャストでは…
昨年5月、AIに関する警告が、思いがけない場所から発せられた。その場所とは、アウシュヴィッツ＝ビルケナウ国立博物館である。
同博物館はソーシャルメディア上で公開投稿を行い、生成AIを用いてホロコーストで亡くなった人々の偽の画像を作成しているFacebook について警告を発した。AIを用いて偽の画像が生成されていたものの、その画像に写っている人物の中には実在した人物も含まれていた。彼らは実在する名前や出生地を持ち、アウシュヴィッツ＝ビルケナウ国立博物館自身が以前公開していた強制移送に関する経歴を持っていた。彼らの顔は現存する写真に写っている実在の人物のものであり、その写真が偽の画像生成に悪用された可能性が高い。
つまり、ネット上の誰か、あるいはあるグループが、ホロコーストのディープフェイクを作成していたということだ。
アウシュヴィッツ博物館がウェブサイトで次のように記している：
「これらは犠牲者の実際の写真ではありません。これらはデジタルで作り出されたものであり、しばしば様式化や美化が施されており、追悼の行為を虚構的な演出へと変質させてしまう危険性をはらんでいます。アウシュヴィッツの歴史は、十分に記録された事実です。AI画像を用いてその視覚的記録を改変することは、その意図がどうであれ、歪みをもたらすことになります。」
数か月後、その真の目的が何であったか、世間に明らかになった。それは金だった。
BBCの調査によると、AI生成画像を投稿し、その拡散性を利用して収益を得ようとするFacebook 国際的なネットワークが存在することが判明した。これは「AIスロープ」と呼ばれることもある問題だが、そこには大きなインセンティブが存在する。こうした画像を作成するアカウントFacebook収益化プログラムに招待されると、クリックを集める投稿であれば何でも投稿することで、月に1,000ドルを稼ぐことができるのだ。
また、BBCの調査によると、Facebook上では、ホロコーストに関するAI生成画像を投稿するアカウントが複数存在することが判明した。BBCの報道によると：
「AIスパマーたちは、バイオリンを弾く囚人や、柵の境界で再会する恋人たちなど、あたかも[アウシュヴィッツ]の内部で撮影されたかのような偽の画像を投稿し、数万件もの「いいね」やシェアを集めている。」
今日、嘘をついて利益を得るというビジネスモデルは現実のものとなっている。人々はAIを利用して、恐ろしい事柄を心地よく感じさせたり、事実無根の事柄を恐ろしく感じさせたりするような偽の画像を作成し、ビッグテック各社のプラットフォームによってサービス停止処分を受けるまで利益を上げ続けることができる。今回のケースでは、BBCの調査があったからこそ、ようやくそのような措置が取られたのである。 実際、ソーシャルメディア・プラットフォームによるこうした不作為こそが、ドイツ政府や複数のホロコースト記念機関を駆り立て、今年初めにこの種のコンテンツに対するより厳格な管理と規制を求める公開書簡を送付するに至ったのである。
署名者たちが書簡で警告したように、こうした記述が歴史を歪曲することによる経済的な誘因は、容認できるリスクの範囲をはるかに超えています。書簡の全文はこちらでご覧いただけます。
本日、ホストのデビッド・ルイスが司会を務めるポッドキャスト『Lock and Code』では、公開書簡に署名した機関の一つである「ナチスの犯罪の犠牲者を追悼するハンブルク記念館・学習センター財団」で、デジタルコミュニケーションに関する研究を行う歴史家クララ・マンスフェルト氏をゲストに迎えました。対談の中でマンスフェルト氏は、歴史へのデジタルアクセス、AI生成画像による事実記録の改ざん、そして真実を見極めることが困難になった際に社会が直面する脅威について語っています。
「歴史的な画像を見るたびに、真っ先に『あれは本当に実在するものなのか、それともAIが生成したものなのか』と考えてしまうようになったらどうなるでしょうか。それが社会全体にとって何を意味するのか、私たちはまだ十分に理解できていないと思います。」
本日、対話の全編をお聴き逃しなく。
番組ノートとクレジット：
イントロ音楽: 「Spellbound」 by Kevin MacLeod (incompetech.com)
クリエイティブ・コモンズ 表示 4.0 ライセンスの下で提供されています
http://creativecommons.org/licenses/by/4.0/
アウトロ音楽: 「Good God」 by Wowa (unminus.com)
よく聞いて——Malwarebytes サイバーセキュリティについて語るだけでなく、それを提供します。
Malwarebytes Premium 特別オファーで、オンライン攻撃から身を守りましょう。あなたの身元、ファイル、システム、そして経済的安定を脅かす脅威から保護します。本オファーは「Lock and Code」リスナー限定です。
