Фотография раненой собаки на обочине дороги. Профиль на сайте знакомств с фотографиями, которые выглядят почти слишком идеально. Призыв о пожертвованиях с изображением семьи, оказавшейся в затруднительном положении на крыше дома после наводнения.
Мошенники уже используют изображения, сгенерированные с помощью искусственного интеллекта, чтобы подкрепить вымышленные истории, завоевать доверие и убедить людей перечислять деньги или раскрывать личную информацию.
Вместо того чтобы спрашивать, выглядит ли изображение реалистично, лучше спросить, есть ли какие-либо доказательства его подлинности.
Что вам действительно нужно знать
Уже невозможно с уверенностью распознать изображения, созданные ИИ, на глаз. Такие советы, как «посчитайте пальцы» или «обратите внимание на искажённый текст», теряют актуальность, поскольку современные генераторы изображений на базе ИИ, как правило, правильно воспроизводят эти детали.
Вместо того чтобы пристальнее вглядываться, проверьте изображение и скептически отнеситесь к истории, связанной с ним.
- Не доверяйте не только изображению, но и всей ситуации в целом.Эти мошенники используют чувство срочности и эмоции, чтобы подтолкнуть вас к действию, прежде чем вы успеете обдумать ситуацию.
- Проверьте, не появлялось ли это изображение раньше.Обратный поиск по изображению занимает считанные секунды и зачастую позволяет выяснить, откуда оно на самом деле взялось.
- В важных случаях используйте официальный инструмент проверки.Приложение Gemini от Google позволяет проверять наличие водяных знаков ИИ и данных о происхождении. Оно не является абсолютно надежным, но предоставляет полезные доказательства.
Если изображение используется для вымогательства денег или личной информации, не считайте его доказательством, пока не проверите его подлинность.
Распространенные мошеннические схемы с изображениями, связанные с искусственным интеллектом
В каждом случае изображение используется для того, чтобы сделать просьбу о деньгах более убедительной.
Поддельные объявления о пропавших домашних животных
Мошенники публикуют в местных группах сгенерированные с помощью ИИ фотографии страдающих животных, а затем просят «плату за передачу животного в новые руки» или другие выплаты. Поскольку изображение было сгенерировано, а не похищено, обратный поиск по изображению может не выявить его исходный источник.
«Я нашёл вашего питомца»
Мошенники выбирают в качестве мишеней людей, ищущих пропавшего питомца, отправляют им фотографию, сгенерированную искусственным интеллектом, а затем просят вознаграждение или залог, после чего исчезают.
Профили на сайтах знакомств
Фотографии, которые выглядят безупречно и одинаково с любого ракурса, потому что на них изображен не реальный человек. Видеозвонок может помочь, но он не является доказательством. Современные deepfakes , создаваемые в режиме реального времени, deepfakes пройти простые проверки, такие как поднятие пальцев перед камерой. Вместо этого попросите собеседника сделать что-нибудь спонтанное, например, повернуть голову или взять в руки любой предмет, и будьте настороже, если человек вообще отказывается выйти на видеозвонок.
Поддельные художники
Портфолио, созданное с помощью ИИ, которое мошенники представляют как оригинальные работы в X, Instagram или на Fiverr с целью получения оплачиваемых заказов. Иногда мошенник исчезает после получения аванса. В других случаях он предоставляет «готовую» работу, которая на самом деле оказывается созданной с помощью ИИ, а не оригинальным произведением искусства, за которое заплатил покупатель. Настоящий художник обычно может показать эскизы, файлы со слоями или изображения работы в процессе создания. Тот, кто использует портфолио, созданное с помощью ИИ, не может этого сделать.
Поддельные призывы о сборе средств
Наряду с реальными бедствиями в сети широко распространяются сфабрикованные изображения больных детей, раненых животных или семей, попавших в бедственное положение, с целью побудить людей к пожертвованиям или просто привлечь внимание. На некоторых из них изображены люди, которых на самом деле не существует. Чем эмоциональнее изображение, тем меньше вероятность того, что люди остановятся и проверят его достоверность.
Почему визуальных подсказок уже недостаточно
Раньше распознать подделку означало обнаружить следы редактирования — например, повторяющийся фон, тень в неподходящем месте или артефакты вокруг вставленного объекта. Этот метод работал, поскольку обработанные изображения обычно создавались на основе реальных фотографий, оставляя за собой подсказки.
Изображения, сгенерированные искусственным интеллектом, отличаются от остальных. Они создаются с нуля, без использования исходного изображения, поэтому подобные ошибки при редактировании в них, как правило, отсутствуют.
На визуальные признаки всё же стоит обратить внимание. Обратите внимание на несоответствующие друг другу украшения, необычное освещение, искажённые отражения или странные движения на видео. Но не стоит считать изображение подлинным только потому, что вы не заметили в нём ничего подозрительного.
Как проверить, создано ли изображение с помощью ИИ
Обратный поиск по изображению
С помощью Google Lens, TinEye и визуального поиска Bing часто можно выяснить, где изображение впервые появилось в Интернете.
Отсутствие совпадений не обязательно означает, что изображение поддельное. Личные фотографии и недавно опубликованные изображения зачастую нигде больше не появляются. Но если кто-то утверждает, что изображение циркулирует уже несколько дней или связано с широко освещаемым событием, то полное отсутствие истории его появления вызывает сомнения.
Инструменты для определения происхождения
Некоторые изображения содержат информацию об их происхождении или о том, использовался ли при их создании искусственный интеллект.
Двумя наиболее распространёнными типами информации о происхождении являются:
- Content Credentials (C2PA): хранит информацию о том, как изображение было создано или отредактировано. Эту технологию поддерживают такие компании, как Adobe, Google, Microsoft и Sony.
- SynthID: невидимый водяной знак Google, встраиваемый в поддерживаемые изображения, сгенерированные искусственным интеллектом. Теперь он также применяется к изображениям, созданным с помощью ChatGPT и DALL·E, в рамках партнерства, объявленного в 2026 году.
Инструменты проверки, такие как приложение Gemini или OpenAI Verify, анализируют эту информацию, чтобы помочь определить, было ли изображение создано с помощью ИИ.
Мы создали изображение, сгенерированное искусственным интеллектом, и проверили его с помощью OpenAI Verify.
OpenAI Verify правильно определил, что это контент, сгенерированный ИИ.
Имейте в виду: если водяной знак не обнаружен, это не означает, что изображение подлинное. Это просто означает, что водяной знак не был обнаружен.
В каких случаях эти проверки оказываются недостаточными
- Приложения для обмена сообщениями удаляют доказательства. WhatsApp, iMessage и Facebook изображения при их загрузке, зачастую удаляя встроенные учетные данные. Это одна из причин, по которой водяной знак SynthID, основанный на пикселях, так полезен: он способен сохраняться даже после изменений, при которых удаляются метаданные.
- «Не найдено» — это результат, который чаще всего интерпретируется неверно. Большинство подлинных фотографий не содержат никакой информации о происхождении. Результат, указывающий на отсутствие водяных знаков или подтверждающих данных, не означает, что изображение подлинное. Это просто означает, что никаких признаков не обнаружено.
- Действительный идентификатор подтверждает цепочку передачи данных, но не саму правду. Он подтверждает, какое устройство или приложение создало файл и когда, но не то, что то, что на нём отображается, действительно имело место. Например, кто-то мог сфотографировать экран, на котором воспроизводилось deepfake ». Идентификатор будет полностью действительным, поскольку камера действительно сделала этот снимок. Просто он не может сказать вам, что содержание на экране было поддельным.
- Некоторые сайты, позиционирующие себя как «детекторы SynthID», вводят пользователей в заблуждение. Для считывания фактического водяного знака SynthID требуется технология, доступ к которой имеют только Google и его официальные партнеры. Это означает, что напрямую проверить его могут только официальные инструменты, такие как собственные приложения Google и OpenAI Verify. Сторонние сайты, использующие название «SynthID», как правило, лишь оценивают, было ли изображение сгенерировано ИИ, а не считывают сам водяной знак.
Если вы подозреваете, что стали жертвой мошенничества с изображениями, созданными искусственным интеллектом
- Сохраните скриншоты профиля, изображений и сообщений, пока они не исчезли.
- Проведите обратный поиск по изображению и, по возможности, проверьте его с помощью официального инструмента проверки на подлинность с использованием искусственного интеллекта.
- Если вы передавали финансовую информацию, немедленно свяжитесь со своим банком и смените все пароли, которые вы использовали и в других системах.
- Перестаньте отправлять деньги. Не делайте «еще один» платеж в надежде вернуть то, что вы уже потеряли.
- Сообщите об этой учетной записи администрации платформы и в национальную службу по борьбе с мошенничеством вашей страны, например в Федеральную торговую комиссию (FTC) в США или в службу «Report Fraud» в Великобритании.
- При необходимости предупредите других членов этого сообщества. Многие из таких мошеннических схем распространяются через группы, вызывающие доверие, и личные рекомендации.
Итог
Раньше изображение считалось достоверным доказательством того, что что-то действительно произошло. Теперь это уже не так. Убедительное, оригинальное изображение можно создать за считанные секунды, и его происхождение невозможно отследить.
Хорошая новость заключается в том, что инструменты проверки становятся всё проще в использовании. Они, конечно, не идеальны, но привычка подходить к информации скептически, использовать обратный поиск по изображениям и официальные инструменты проверки гораздо надежнее, чем попытки обнаружить визуальные ошибки.
Проверяйте источник, не поддавайтесь спешке и не позволяйте картинке думать за вас.
Какой инструмент выбрать? Краткое руководство
| Инструмент | Чеки |
|---|---|
| Gemini ( загрузите изображение в приложение Gemini, в поиск Google или в Chrome спросите, было ли оно создано с помощью ИИ) | Водяной знак SynthID и учетные данные контента |
| Детектор Google SynthID | Водяной знак SynthID на изображениях, видео и аудио |
| OpenAI Verify | SynthID и учетные данные контента в ChatGPT, DALL·E и контенте, сгенерированном с помощью API |
| Обратный поиск по изображению с помощью Google Lens/TinEye/Bing Visual Search | Сравнивает изображение с его копиями в Интернете, чтобы определить, где ещё оно встречается |
Как интерпретировать результаты
- Обнаружен водяной знак: файл был создан с помощью поддерживаемой системы искусственного интеллекта.
- Водяной знак не обнаружен: сигнал не был зафиксирован. Это нормальный результат для большинства подлинных фотографий, но он не позволяет ни подтвердить, ни опровергнуть использование ИИ.
- Обнаружены атрибуты контента: файл содержит информацию о происхождении, касающуюся того, как он был создан или отредактирован. Это помогает установить его происхождение, но не доказывает подлинность самой сцены.
