Google отказалась от функции искусственного интеллекта, позволявшей пользователям создавать искусственные изображения в Google Earth, после предсказуемой волны негативных отзывов. deepfakes .
30 июля Google включила функцию генерации изображений с помощью ИИ в веб-версии Google Earth. Она стала доступна всем пользователям.
Система использовала генератор изображений Google Nano Banana 2 для создания своих снимков. Этот инструмент уже может генерировать изображения из простого текстового ввода, но преимущество использования Google Earth заключается в том, что он может использовать реальные спутниковые снимки в качестве основы для своих изображений. deepfake версий. Это упрощает создание изображений, полученных с помощью ИИ, с реалистичными и точными деталями зданий и ландшафта.
В своем первоначальном сообщении в блоге о запуске системы говорилось, что студенты могут использовать ее, чтобы «оживить историю», а риелторы — для создания профессиональных планов в сфере недвижимости. Однако другие предупреждали, что система может быть использована для введения людей в заблуждение.
В течение нескольких часов исследователи и представители прессы продемонстрировали, что этот инструмент без проблем создаёт фотореалистичные спутниковые снимки событий, которые не происходили в местах, где они не происходили.
Голландский исследователь в области разведки на основе открытых источников Хенк ван Эсс объяснил : «Я пытался найти беженцев на мексиканской границе, на атомной электростанции в Иране, в месте крушения в Амстердаме, в больнице с воронкой от бомбы в Газе. Ни в чем мне не отказали».
Демонстрируя возможности новой технологии, NPR сфабриковало изображение пожаров в Иране, а также... deepfake Вашингтон, округ Колумбия, оказался под водой. BBC показала кадры обрушившейся Эйфелевой башни и Великой пирамиды Гизы, поглощенных карстовой воронкой. Несмотря на наличие некоторых защитных механизмов, служба BBC Verify смогла обойти их, изменив базовые подсказки искусственного интеллекта.
Компания Google признала сбой в своем заявлении . X :
«Мы видели, как специалисты в области геопространственных технологий используют эту функцию для целого ряда полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы отключаем эту функцию в Google Earth, пока работаем над внедрением более строгих мер защиты».
Компания не взяла на себя обязательство никогда больше не возвращаться к этой идее.
Пользователи, по всей видимости, остались недовольны. «Нет ни малейшего шанса, что никто из вашей команды разработчиков не высказывал именно эту обеспокоенность», — прокомментировал один. «Вы живёте в полном вакууме», — обвинил другой.
В качестве резервного механизма защиты Google использовалась водяная метка SynthID, а также тот факт, что сгенерированные изображения не отображались в основной версии Google Earth для просмотра другими пользователями. SynthID — это система водяных знаков Google DeepMind, невидимый сигнал, встроенный в пиксели изображений, сгенерированных ИИ, чтобы совместимый детектор мог обнаружить их позже. Google позиционирует её как одну из двух составляющих своей системы отслеживания происхождения изображений, наряду со стандартом метаданных C2PA, который используется в более широкой индустрии ИИ.
Теоретически, сигнал должен был выдерживать сжатие и даже повторную загрузку в социальные сети. Однако эти утверждения рухнули при столкновении с реальностью. Водяные знаки обнаруживаются сервисами искусственного интеллекта Google, такими как Gemini. Они не видны пользователям, которые могут сделать скриншоты изображений и поделиться ими где угодно. Маловероятно, что каждый будет знать, где проверить происхождение изображения. Исследователи также сообщали , что Gemini не мог надежно идентифицировать изображения, созданные ИИ, с водяным знаком SynthID.
Что это значит для вас?
Создатели контента уже производили поддельные изображения, созданные с помощью ИИ, которые показывали события, которых не было. Традиционно спутниковые снимки были ключевым компонентом журналистики с открытым исходным кодом. Если вы искусно подделаете их, вы атакуете тот справочный слой, который журналисты используют для проверки того, действительно ли что-то произошло.
Это происходит также в то время, когда доверие к ИИ заметно снижается. Согласно нашим собственным исследованиям , опубликованным в июне, 88% людей заявили, что становится все труднее отличить подлинный контент в интернете от реального, созданного человеком, а 84% сказали, что даже «убедительные видеодоказательства» больше не воспринимаются как подтверждение.
Практический совет: сделайте глубокий вдох всякий раз, когда в вашей ленте появляется тревожное спутниковое изображение катастрофы, удара оружия или пересечения границы. Проверьте, было ли оно опубликовано информационным агентством с указанием имени репортера. Ищите подпись, идентифицирующую поставщика изображения. Если источником является анонимный аккаунт, опубликовавший один драматический кадр, предположите, что вы, возможно, смотрите на что-то, собранное в вкладке браузера прошлой ночью.
Для получения более подробной информации о том, как распознавать изображения, созданные с помощью ИИ, ознакомьтесь с нашим руководством .
В настоящее время в индустрии доставки контента, по всей видимости, пользователи рассматриваются как тестовая группа. Критическая медиаграмотность теперь является единственным надежным инструментом, которым располагают читатели и зрители.
От сообщения об угрозах до их устранения.
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
