На этой неделе в подкасте «Lock and Code»…
В мае прошлого года предупреждение об искусственном интеллекте прозвучало оттуда, откуда его никто не ожидал: из Государственного музея Освенцим-Биркенау.
Музей опубликовал в социальных сетях предупреждение о... Facebook В аккаунте использовался генеративный ИИ для создания поддельных изображений людей, погибших в Холокосте. Несмотря на использование ИИ для создания поддельных изображений, люди на этих изображениях иногда были реальными. У них были настоящие имена, места рождения и истории депортации, которые ранее были опубликованы в Государственном музее Аушвиц-Биркенау. У них были настоящие лица, запечатленные на реальных сохранившихся фотографиях, которые, вероятно, были использованы для создания поддельных изображений.
Другими словами, кто-то или какая-то группа людей в интернете создавала диффейки на тему Холокоста.
Как написал в Интернете музей Освенцима:
«Это не настоящие фотографии жертв. Это цифровые изображения, зачастую стилизованные или приукрашенные, которые грозят превратить память в вымышленное представление. История Освенцима — это хорошо задокументированная история. Изменение ее визуальных свидетельств с помощью изображений, созданных с помощью искусственного интеллекта, приводит к искажению фактов, какими бы ни были намерения».
Спустя несколько месяцев общественность узнала, в чем заключался этот замысел: в деньгах.
Расследование BBC выявило международную сеть Facebook Аккаунты, публикующие изображения, созданные с помощью ИИ, чтобы зарабатывать деньги на потенциальной вирусной популярности этих изображений. Эту проблему иногда называют «хламом ИИ», но она имеет серьезный стимул. Когда аккаунты, создающие подобные изображения, получают приглашение... Facebook В рамках программы монетизации контента они могут зарабатывать 1000 долларов в месяц за публикацию всего, что привлекает внимание пользователей.
И далее Facebook Как выяснила Би-би-си, это означает наличие нескольких аккаунтов, публикующих сгенерированные искусственным интеллектом изображения о Холокосте. Как сообщила Би-би-си:
«Спамеры, использующие искусственный интеллект, публикуют поддельные изображения, якобы сделанные внутри [Аушвица], — например, заключенного, играющего на скрипке, или влюбленных, встречающихся у ограды, — которые собирают десятки тысяч лайков и репостов».
Сегодня экономика лжи приобрела вполне конкретные очертания. Люди могут использовать ИИ для создания фальшивых изображений, которые заставляют людей с оптимизмом воспринимать ужасные вещи или испытывать страх перед несуществующими угрозами, и зарабатывать на этом деньги до тех пор, пока их не заблокируют сами крупные технологические платформы — что в данном случае произошло лишь благодаря расследованию BBC. Фактически, именно такая бездеятельность со стороны социальных сетей заставила правительство Германии и ряд учреждений, занимающихся памятью о Холокосте, направить в начале этого года открытое письмо с просьбой о введении более эффективных мер контроля и ограничений в отношении такого рода контента.
Как предупредили подписавшие письмо, экономическая выгода, которую получают эти аккаунты от искажения истории, представляет собой слишком высокий риск, чтобы на это можно было закрывать глаза. Полный текст письма можно прочитать здесь.
Сегодня в подкасте «Lock and Code» с ведущим Дэвидом Руисом мы беседуем с Кларой Мансфельд, историком, занимающимся вопросами цифровых коммуникаций в одной из организаций, подписавших открытое письмо, — Фонде мемориалов и образовательных центров Гамбурга, посвященных памяти жертв нацистских преступлений. В ходе беседы Мансфельд обсуждает вопросы цифрового доступа к истории, манипулирование фактическими данными с помощью изображений, сгенерированных искусственным интеллектом, а также угрозу, с которой сталкивается общество, когда становится все сложнее отличить правду от вымысла.
«Что произойдет, если при виде любого исторического изображения наша первая мысль будет: „Это вообще реальность или это ИИ?“ Мне кажется, мы еще не до конца осознали, что это значит для нас как для общества».
Настройтесь сегодня, чтобы прослушать полную версию разговора.
Показать примечания и титры:
Вступительная музыка: «Spellbound» Кевина Маклеода (incompetech.com)
Лицензия Creative Commons: Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Завершающая музыка: «Good God» Wowa (unminus.com)
Внимательно слушайте! Malwarebytes Мы не просто говорим о кибербезопасности, мы её предоставляем.
Защитите себя от онлайн-атак, угрожающих вашей личности, файлам, системе и финансовому благополучию, с помощью нашего эксклюзивного предложения для слушателей Lock and Code, использующих Malwarebytes Premium Security .
