В каждом потребительском приложении есть меню настроек, где можно настроить такие параметры, как уведомления или тёмный режим. Компания Meta только что решила, что любой пользователь может создавать изображения с вашим лицом с помощью ИИ на основе вашего публичного Instagram , просто введя ваш Instagram в поле ввода.
7 июля компания Meta запустила свою модель генерации изображений на основе искусственного интеллекта — Muse Image. Она интегрирована с общедоступными Instagram . Теперь достаточно просто отметить ваш аккаунт в запросе, и любой пользователь сможет с помощью ИИ Meta сгенерировать изображение с использованием вашего облика. Согласно собственной политике Meta, вы не будете получать уведомления, если кто-то это сделает, поэтому вам будет сложно узнать, когда и как был использован ваш облик.
В Meta заявляют, что функция Muse Image призвана сделать генерацию изображений с помощью ИИ более персонализированной, позволяя пользователям указывать в своих запросах Instagram общедоступные Instagram . Это может показаться забавным, когда вы создаете изображения самих себя. Но это уже не так привлекательно, когда любой другой человек может сделать то же самое с вашим аккаунтом.
Meta позволяет отказаться от этой функции, хотя поиск соответствующей настройки — это целое приключение. В Instagram перейдите в раздел «Настройки и активность» > «Публикация и повторное использование», а затем отключите настройку, позволяющую другим пользователям создавать изображения с вашим участием с помощью ИИ. В зависимости от версии приложения формулировка может отличаться, а сама функция пока находится в процессе внедрения, начиная с США, поэтому вы можете пока не увидеть эту настройку.
Хотелось бы, чтобы Meta сразу же при открытии Instagram выводила большое и заметное сообщение: «Отключите эту функцию, если не хотите, чтобы она работала», но, увы, этого не происходит. Также хотелось бы, чтобы компания задним числом удалила все изображения, которые кто-то сделал с вашим участием до того, как вы отказались от этой функции, но этого тоже не происходит.
Отключение этой функции предотвращает лишь создание новых изображений в будущем. Все изображения, сгенерированные искусственным интеллектом до того, как вы отключили эту настройку, по-прежнему остаются в обращении.
Единственный способ, который хотя бы отчасти обеспечивает всестороннюю защиту, — это переключить свой аккаунт в приватный режим.
В чём заключается риск?
Здесь возникают вопросы, связанные с конфиденциальностью и безопасностью. Теперь любой желающий может создавать изображения с помощью ИИ на основе вашего общедоступного Instagram без вашего ведома, и Meta не будет вас об этом уведомлять. Злоумышленники и так уже собирали общедоступные Instagram из Instagram для создания deepfakes мошенничества deepfakes подтверждении личности. Предоставление пользователям официальной возможности создавать изображения с помощью ИИ на основе общедоступных профилей снижает барьер для создания синтетических изображений, которые могут быть использованы для подражания личности, мошенничества или других злоупотреблений.
Киберпреступники уже используют генеративный ИИ в сочетании с автоматизированными инструментами для расширения масштабов фишинга и мошенничества. Muse Image позволяет ещё проще создавать убедительные изображения на основе общедоступных данных о личностях.
ИИ компании Meta породил и другие проблемы с безопасностью. Ранее в этом году исследователи обнаружили уязвимость типа «confused deputy» в чат-боте службы поддержки Meta, которая позволяла ему вносить изменения в учетные записи— в том числе менять адреса электронной почты и сбрасывать пароли — без надлежащей проверки личности собеседника. Включение многофакторной аутентификации (MFA), по-видимому, помогло устранить эту проблему.
Meta также применяет подход «отказ от участия» при обучении своего ИИ на данных европейских пользователей. Компания опирается на правовое основание «законные интересы», предусмотренное GDPR, для обработки данных европейских пользователей в целях ИИ; эта позиция была оспорена правозащитной организацией NOYB.
Защитите себя
- Если ваш Instagram , откройте «Настройки» > «Активность» > «Публикация и повторное использование » и сразу же отключите переключатель «Генерация с помощью ИИ ». Помните, что это остановит только генерацию изображений в будущем.
- Включите многофакторную аутентификацию (MFA) для всех своих учетных записей в Meta. Это один из самых простых способов защитить свою учетную запись на случай утечки пароля.
- Если вы хотите обеспечить себе максимальную защиту, которую в настоящее время предлагает Meta, переведите свой Instagram в приватный режим. Это довольно радикальное решение, но оно не позволит посторонним использовать ваш публичный профиль в качестве источника информации.
Собственный Наблюдательный совет Meta уже заявил, что компании необходимы более эффективные инструменты обнаружения и более четкая маркировка контента, сгенерированного искусственным интеллектом. Если даже собственный орган управления Meta заявляет, что существующих мер защиты недостаточно, потребителям следует обратить на это внимание.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft выявляет подозрительную активность, прежде чем она станет проблемой.
