В каждом потребительском приложении есть меню настроек, где можно настроить такие параметры, как уведомления или тёмный режим. Компания Meta только что решила, что любой пользователь может создавать изображения с вашим лицом с помощью ИИ на основе вашего публичного Instagram , просто введя ваш Instagram в поле ввода.
7 июля компания Meta запустила свою модель генерации изображений на основе искусственного интеллекта — Muse Image. Она интегрирована с общедоступными Instagram . Теперь достаточно просто отметить ваш аккаунт в запросе, и любой пользователь сможет с помощью ИИ Meta сгенерировать изображение с использованием вашего облика. Согласно собственной политике Meta, вы не будете получать уведомления, если кто-то это сделает, поэтому вам будет сложно узнать, когда и как был использован ваш облик.
В Meta заявляют, что функция Muse Image призвана сделать генерацию изображений с помощью ИИ более персонализированной, позволяя пользователям указывать в своих запросах Instagram общедоступные Instagram . Это может показаться забавным, когда вы создаете изображения самих себя. Но это уже не так привлекательно, когда любой другой человек может сделать то же самое с вашим аккаунтом.
Meta позволяет отключить эту функцию, хотя поиск соответствующей настройки — это целое приключение. В Instagram откройте «Профиль» > «Меню» > «Публикация и повторное использование». В разделе «Разрешить пользователям повторно использовать ваш контент в Instagram с помощью функций ИИ в Meta» отключите переключатели «Посты» и «Reels». В зависимости от версии приложения формулировка может отличаться, а сама функция пока находится в стадии постепенного внедрения, начиная с США, поэтому вы можете пока не увидеть эту настройку.
Хотелось бы, чтобы Meta сразу же при открытии Instagram выводила большое и заметное сообщение: «Отключите эту функцию, если не хотите, чтобы она работала», но, увы, этого не происходит. Также хотелось бы, чтобы компания задним числом удалила все изображения, которые кто-то сделал с вашим участием до того, как вы отказались от этой функции, но этого тоже не происходит.
Отключение этой функции предотвращает лишь создание новых изображений в будущем. Все изображения, сгенерированные искусственным интеллектом до того, как вы отключили эту настройку, по-прежнему остаются в обращении.
Единственный способ, который хотя бы отчасти обеспечивает всестороннюю защиту, — это переключить свой аккаунт в приватный режим.
В чём заключается риск?
Здесь возникают вопросы, связанные с конфиденциальностью и безопасностью. Теперь любой желающий может создавать изображения с помощью ИИ на основе вашего общедоступного Instagram без вашего ведома, и Meta не будет вас об этом уведомлять. Злоумышленники и так уже собирали общедоступные Instagram из Instagram для создания deepfakes мошенничества deepfakes подтверждении личности. Предоставление пользователям официальной возможности создавать изображения с помощью ИИ на основе общедоступных профилей снижает барьер для создания синтетических изображений, которые могут быть использованы для подражания личности, мошенничества или других злоупотреблений.
Киберпреступники уже используют генеративный ИИ в сочетании с автоматизированными инструментами для расширения масштабов фишинга и мошенничества. Muse Image позволяет ещё проще создавать убедительные изображения на основе общедоступных данных о личностях.
ИИ компании Meta породил и другие проблемы с безопасностью. Ранее в этом году исследователи обнаружили уязвимость типа «confused deputy» в чат-боте службы поддержки Meta, которая позволяла ему вносить изменения в учетные записи— в том числе менять адреса электронной почты и сбрасывать пароли — без надлежащей проверки личности собеседника. Включение многофакторной аутентификации (MFA), по-видимому, помогло устранить эту проблему.
Meta также применяет подход «отказ от участия» при обучении своего ИИ на данных европейских пользователей. Компания опирается на правовое основание «законные интересы», предусмотренное GDPR, для обработки данных европейских пользователей в целях ИИ; эта позиция была оспорена правозащитной организацией NOYB.
Защитите себя
- Если ваш Instagram является общедоступным, откройте «Профиль» > «Меню». В разделе «Как другие пользователи могут взаимодействовать с вами» нажмите «Публикация и повторное использование», а затем отключите настройки повторного использования постов и роликов в разделе «Разрешить пользователям повторно использовать ваш контент в Instagram с помощью функций ИИ в Meta». Отключение этих настроек повторного использования предотвращает только будущее создание и повторное использование изображений с помощью ИИ. Оно не приведет к удалению уже существующего контента, сгенерированного ИИ, или ремиксов.
- Включите многофакторную аутентификацию (MFA) для всех своих учетных записей в Meta. Это один из самых простых способов защитить свою учетную запись на случай утечки пароля.
- Если вы хотите обеспечить себе максимальную защиту, которую в настоящее время предлагает Meta, переведите свой Instagram в приватный режим. Это довольно радикальное решение, но оно не позволит посторонним использовать ваш публичный профиль в качестве источника информации.
Собственный Наблюдательный совет Meta уже заявил, что компании необходимы более эффективные инструменты обнаружения и более четкая маркировка контента, сгенерированного искусственным интеллектом. Если даже собственный орган управления Meta заявляет, что существующих мер защиты недостаточно, потребителям следует обратить на это внимание.
Обновление от 11 июля: После широкой критики в связи с вопросами конфиденциальности и согласия компания Meta вчера объявила, что удалила функцию Muse Image, которая позволяла пользователям создавать изображения с помощью ИИ на основе публичных Instagram . Компания заявила, что эта функция«не оправдала ожиданий»и больше не доступна.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft выявляет подозрительную активность, прежде чем она станет проблемой.
