Видео на тему Хэллоуина, созданные с помощью ИИ: кто получает ваши фотографии?

В этот Хэллоуин костюмы делает искусственный интеллект. Загрузите фотографию, и вы сможете превратиться в вампира, окружить свою собаку тыквами или стать звездой вирусной «истории любви зомби»: ваш партнер превратился в вампира, вы опускаете пистолет, и прыжок зомби заканчивается объятием.

Но прежде чем загружать фотографии, знаете ли вы, кто их получит?

В сентябре мы писали о более чем 100 сайтах с платной подпиской, созданных с помощью одного и того же недорогого веб-комплекта . В преддверии Хэллоуина мы обнаружили, что тот же подход используется для продажи видеороликов на тему Хэллоуина, созданных с помощью ИИ.

На проверенных сайтах мы не обнаружили вредоносного ПО или фишинга . Нас беспокоило то, как мало нам удалось установить о том, кто ими управляет и кто несет ответственность за фотографии, загружаемые пользователями.

Изысканный, дружелюбный и анонимный.

Эти сайты выглядят профессионально и внушают доверие. Они обещают конфиденциальность, имеют раздел часто задаваемых вопросов и политику возврата средств, а некоторые даже добавляют поля для выбора согласия на использование фотографий детей. Один из них называет себя «независимым инструментом, не имеющим связей с TikTok или какой-либо киностудией».

Они не говорят, кто за ними стоит. На проверенных нами сайтах мы не нашли ни названия компании, ни адреса, ни имени оператора, только адрес электронной почты службы поддержки на собственном домене сайта.

Куда вы загружаете свои фотографии?

На этих сайтах запрашиваются четкие, хорошо освещенные фотографии вас, вашего партнера, ваших друзей, ваших домашних животных и, с разрешения родителей, ваших детей.

На сайтах, которые мы изучали, указано, что для создания видеороликов они используют сторонних поставщиков услуг искусственного интеллекта. Это означает, что вы доверяете как сайту, собирающему ваши фотографии, так и поставщикам услуг, обрабатывающим их.

Где бы вы ни загружали фотографии, проверяйте, кто имеет к ним доступ и как их можно использовать. Мошенники могут использовать чужое изображение для создания поддельных интимных фотографий и требовать деньги за сохранение их в тайне. В нашем отчете Face Value 10% респондентов заявили, что кто-то угрожал опубликовать созданный с помощью ИИ контент откровенного характера с их участием. Мы не обнаружили доказательств подобных случаев на этих сайтах, посвященных Хэллоуину, но это повод быть осторожным, где вы делитесь своими фотографиями.

Сайты обещают удалять загруженные файлы в течение нескольких дней, и у нас нет доказательств того, что они этого не делают. Но мы не смогли независимо проверить эти обещания. Без идентификации оператора сложнее установить, кто отвечает за обработку ваших фотографий и реагирование на запросы об удалении.

Вход через Google не идентифицирует всех, кто работает с вашими фотографиями.

На этих сайтах используется настоящее окно авторизации Google, поэтому вы вводите свой пароль в Google, а не на сайт с видео. Но использование Google для авторизации не означает, что Google одобряет этот сервис или гарантирует соблюдение его обещаний в отношении конфиденциальности.

Щёлкните по названию приложения в окне входа в Google, и вы увидите информацию для разработчиков . На одном из проверенных нами сайтов единственным указанным контактным лицом был адрес Gmail. То же самое мы наблюдали и на сайтах, относящихся к сентябрю. Сам по себе адрес Gmail не является доказательством противоправных действий, но он мало что делает для идентификации оператора.

В другом случае Google сообщил, что вы входите в систему, «чтобы продолжить работу на neon.tech». Neon — это легитимная компания, занимающаяся базами данных и предоставляющая услуги аутентификации . Упоминание её названия здесь не означает, что она управляет сайтом с видеороликами на тему Хэллоуина или поддерживает его.

Провайдеры авторизации могут обрабатывать вход через Google от имени сайта. В зависимости от настроек, Google может отображать домен провайдера вместо названия видеосайта. В данном случае экран входа не давал посетителям четкого представления о том, кто управляет сервисом, посвященным Хэллоуину.

Собрано из набора, переработано для создания нового тренда.

Для создания подобных сайтов не обязательно нужна команда или месяцы работы. Некоторые используют тот же самый веб-комплект за 249 долларов, о котором мы писали в сентябре, обещающий «запустить ваш продукт на основе ИИ за один час». На одном сайте, посвященном Хэллоуину, разработчики даже не удалили демонстрационный контент из комплекта. На странице была скрыта пометка о том, что это «демонстрационный сайт» для шаблона, а также ссылки-заглушки, например, «название вашего приложения».

В коде другого сайта были обнаружены остатки кода сервиса по созданию рэп- и танцевальных видеороликов с использованием ИИ, включая сцену в «лобби отеля», студию звукозаписи и рэп-тексты, написанные ИИ. Эти остатки позволяют предположить, что сайт использует код, предназначенный также для других видеосервисов на основе ИИ.

Использование готового шаблона для сайта само по себе не вызывает подозрений. Но хорошо оформленную страницу можно быстро собрать, поэтому её внешний вид мало что говорит о компании, которая обрабатывает ваши фотографии.

Не торопитесь и перед оплатой.

На одном сайте один 15-секундный ролик про зомби стоил 9,99 долларов. На странице с ценами посетителям предлагались более крупные пакеты, в результате чего заявленная цена за видео снижалась до 2,99 долларов. Но эта минимальная цена означала, что на просмотр примерно 66 фильмов про зомби уйдет 199 долларов. Также были доступны ежемесячные и годовые планы, стоимость которых достигала 600 долларов в год.

На одном из сайтов также использовались предложения с обратным отсчетом, напоминания во вкладке браузера и заявления о том, сколько людей сняли фильмы в тот день, чтобы побудить посетителей к покупке.

Не стоит спешить. Внимательно изучите условия оплаты, а также политику конфиденциальности. Сами сайты предупреждают, что ИИ может изменять лица, поэтому ваше видео может быть не очень похоже на вас. Согласно рассмотренным нами правилам, кредиты возвращаются, если видео не удается сгенерировать. Но если вам просто не нравится результат, повторная попытка обойдется дороже.

Подписки продлеваются до тех пор, пока вы их не отмените, годовые планы оплачиваются единовременно, а некоторые кредиты истекают до того, как вы их используете.

Что проверить перед загрузкой фотографий

Какой бы инструмент или платформу вы ни выбрали, убедитесь, что вас устраивает, как она будет обрабатывать ваши данные, фотографии и платежную информацию.

• Узнайте, кто управляет этим сервисом. Найдите имя оператора и четкие контактные данные. Если вы не можете установить, кто будет отвечать за ваши фотографии, рассмотрите другой сервис.
• Проверьте, куда сохраняются ваши фотографии. Ознакомьтесь с политикой конфиденциальности, чтобы получить информацию о сторонних поставщиках ИИ, сроках хранения и о том, можно ли использовать загруженные фотографии для обучения ИИ.
• Уточните процедуру удаления. Узнайте, как запросить удаление, и поясняет ли политика, что происходит с копиями, хранящимися у сторонних поставщиков.
• Будьте особенно осторожны с фотографиями детей. Флажок «Согласие родителей» не объясняет, как сервис обеспечит их защиту. Загружайте чужие фотографии только с разрешения детей.
• Внимательно прочитайте окно входа в Google. Проверьте данные разработчика и все запрошенные разрешения. Вход в Google не заменяет проверку самого сервиса.
• Не обращайте внимания на таймеры обратного отсчета и проверяйте условия оплаты. Уделите время тому, чтобы понять полную стоимость, срок действия кредита и то, запускает ли ваша покупка подписку.
• После этого проверьте свои подключения к Google. Удалите сервисы, которые вы больше не используете, из списка сторонних подключений вашей учетной записи Google . Это не отменяет подписки и не удаляет фотографии или другие данные, уже хранящиеся в сервисе.

Как Malwarebytes может помочь

Если у вас есть опасения по поводу какого-либо веб-сайта, Malwarebytes Scam Guard поможет вам оценить его. Malwarebytes Browser Guard помогает блокировать известные мошеннические и вредоносные сайты.

Однако эти инструменты не могут проверить, выполняет ли сервис обещания по удалению фотографий. В любом случае, перед загрузкой следует проверить, кто управляет этим сервисом и каковы его условия конфиденциальности.

Что-то не так? Проверьте, прежде чем нажимать.  

Malwarebytes Scam Guard помогает мгновенно анализировать подозрительные ссылки, тексты и скриншоты.  

Доступно в составе Malwarebytes Premium Security для всех ваших устройств, а также в приложении Malwarebytes для iOS и Android .  

Попробуйте бесплатно →