На этой неделе в подкасте «Lock and Code»…
В мае прошлого года предупреждение об искусственном интеллекте прозвучало оттуда, откуда его никто не ожидал: из Государственного музея Освенцим-Биркенау.
В открытом посте в социальных сетях музей предупредил о наличии Facebook , в котором с помощью генеративного ИИ создавались поддельные изображения людей, погибших в Холокосте. Несмотря на то что для создания поддельных изображений использовался ИИ, люди на этих изображениях порой были реальными. У них были настоящие имена, места рождения и истории депортации, о которых ранее сообщал сам Государственный музей Освенцим-Биркенау. Их лица были запечатлены на подлинных сохранившихся фотографиях, которые, вероятно, были незаконно использованы для создания фальшивых изображений.
Другими словами, кто-то или какая-то группа людей в интернете создавала диффейки на тему Холокоста.
Как написал в Интернете музей Освенцима:
«Это не настоящие фотографии жертв. Это цифровые изображения, зачастую стилизованные или приукрашенные, которые грозят превратить память в вымышленное представление. История Освенцима — это хорошо задокументированная история. Изменение ее визуальных свидетельств с помощью изображений, созданных с помощью искусственного интеллекта, приводит к искажению фактов, какими бы ни были намерения».
Спустя несколько месяцев общественность узнала, в чем заключался этот замысел: в деньгах.
Расследование BBC выявило существование международной сети Facebook , которые публикуют изображения, сгенерированные искусственным интеллектом, с целью заработать на их потенциальной вирусной популярности. Эту проблему иногда называют «AI slop», но за ней стоит серьезный финансовый стимул. Когда аккаунты, создающие подобные изображения, приглашают к участию в программе монетизации контента Facebook, они могут зарабатывать до 1000 долларов в месяц, публикуя любые материалы, которые привлекают клики.
Как выяснила BBC, в Facebook это означает наличие нескольких аккаунтов, публикующих сгенерированные искусственным интеллектом изображения, посвящённые Холокосту. Как сообщает BBC:
«Спамеры, использующие искусственный интеллект, публикуют поддельные изображения, якобы сделанные внутри [Аушвица], — например, заключенного, играющего на скрипке, или влюбленных, встречающихся у ограды, — которые собирают десятки тысяч лайков и репостов».
Сегодня экономика лжи приобрела вполне конкретные очертания. Люди могут использовать ИИ для создания фальшивых изображений, которые заставляют людей с оптимизмом воспринимать ужасные вещи или испытывать страх перед несуществующими угрозами, и зарабатывать на этом деньги до тех пор, пока их не заблокируют сами крупные технологические платформы — что в данном случае произошло лишь благодаря расследованию BBC. Фактически, именно такая бездеятельность со стороны социальных сетей заставила правительство Германии и ряд учреждений, занимающихся памятью о Холокосте, направить в начале этого года открытое письмо с просьбой о введении более эффективных мер контроля и ограничений в отношении такого рода контента.
Как предупредили подписавшие письмо, экономическая выгода, которую получают эти аккаунты от искажения истории, представляет собой слишком высокий риск, чтобы на это можно было закрывать глаза. Полный текст письма можно прочитать здесь.
Сегодня в подкасте «Lock and Code» с ведущим Дэвидом Руисом мы беседуем с Кларой Мансфельд, историком, занимающимся вопросами цифровых коммуникаций в одной из организаций, подписавших открытое письмо, — Фонде мемориалов и образовательных центров Гамбурга, посвященных памяти жертв нацистских преступлений. В ходе беседы Мансфельд обсуждает вопросы цифрового доступа к истории, манипулирование фактическими данными с помощью изображений, сгенерированных искусственным интеллектом, а также угрозу, с которой сталкивается общество, когда становится все сложнее отличить правду от вымысла.
«Что произойдет, если при виде любого исторического изображения наша первая мысль будет: „Это вообще реальность или это ИИ?“ Мне кажется, мы еще не до конца осознали, что это значит для нас как для общества».
Настройтесь сегодня, чтобы прослушать полную версию разговора.
Показать примечания и титры:
Вступительная музыка: «Spellbound» Кевина Маклеода (incompetech.com)
Лицензия Creative Commons: Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Завершающая музыка: «Good God» Wowa (unminus.com)
Слушайте внимательно —Malwarebytes просто говорит о кибербезопасности, мы ее обеспечиваем.
Защитите себя от онлайн-атак, угрожающих вашей личности, файлам, системе и финансовому благополучию, с помощью нашегоэксклюзивного предложения Malwarebytes Premium для слушателей Lock and Code.
