В каждом потребительском приложении есть меню настроек, позволяющее принимать решения, например, о таких вещах, как уведомления или темный режим. Компания Meta только что решила, что любой может сгенерировать изображения вас с помощью ИИ на основе ваших общедоступных данных. Instagram для создания учетной записи, введя свой Instagram преобразуйте обработчик в подсказку.
7 июля компания Meta запустила свою модель генерации изображений на основе искусственного интеллекта, Muse Image. Она интегрируется с общедоступными сервисами. Instagram Теперь кому-то достаточно отметить ваш аккаунт в подсказке, и Meta AI сможет сгенерировать изображение с вашим изображением. Согласно политике Meta , вы не будете уведомлены о подобных действиях, что затрудняет отслеживание того, когда и как было использовано ваше изображение.
По данным Meta, Muse Image призван сделать создание изображений с помощью ИИ более персонализированным, позволяя людям ссылаться на общедоступные источники. Instagram аккаунты в своих подсказках. Это может показаться забавным, когда вы создаете свои изображения. Но это менее привлекательно, когда любой другой может сделать то же самое с вашим аккаунтом.
Meta позволяет отказаться от этой функции, хотя найти нужную настройку — это уже совсем другое дело. Instagram Откройте Профиль > Меню > Совместное использование и повторное использование. В разделе «Разрешить другим пользователям повторно использовать ваш контент» перейдите в Instagram «А с функциями ИИ на Meta» отключите переключатели «Публикации» и «Рилсы». В зависимости от версии вашего приложения формулировка может отличаться, и эта функция все еще находится на стадии внедрения, начиная с США, поэтому вы можете пока не видеть эту настройку.
Хотелось бы надеяться, что Meta сразу же сообщит об этом крупным, броским сообщением «Выключите это, если вам это не нужно», когда вы откроете приложение. Instagram Но, к сожалению, этого не произошло. Хотелось бы также надеяться, что компания задним числом удалит все изображения, сделанные кем-то с вашим участием до того, как вы отказались от услуги, но и этого не произойдет.
Отключение этой функции предотвращает лишь создание новых изображений в будущем. Все изображения, сгенерированные искусственным интеллектом до того, как вы отключили эту настройку, по-прежнему остаются в обращении.
Единственный способ, который хотя бы отчасти обеспечивает всестороннюю защиту, — это переключить свой аккаунт в приватный режим.
В чём заключается риск?
Здесь возникают вопросы конфиденциальности и безопасности. Теперь любой может создавать изображения с помощью ИИ на основе ваших общедоступных данных. Instagram Профиль создан без вашего ведома, и Meta не уведомит вас об этом. Публичный. Instagram Фотографии уже использовались злоумышленниками для создания deepfakes для предотвращения мошенничества при проверке личности. Предоставление людям официального способа генерации изображений с помощью ИИ на основе общедоступных профилей снижает барьер для создания синтетических изображений, которые могут быть использованы для выдачи себя за другое лицо, мошенничества или других злоупотреблений.
Киберпреступники уже используют генеративный ИИ в сочетании с автоматизированными инструментами для расширения масштабов фишинга и мошенничества. Muse Image позволяет ещё проще создавать убедительные изображения на основе общедоступных данных о личностях.
ИИ компании Meta породил и другие проблемы с безопасностью. Ранее в этом году исследователи обнаружили уязвимость типа «confused deputy» в чат-боте службы поддержки Meta, которая позволяла ему вносить изменения в учетные записи— в том числе менять адреса электронной почты и сбрасывать пароли — без надлежащей проверки личности собеседника. Включение многофакторной аутентификации (MFA), по-видимому, помогло устранить эту проблему.
Meta также применяет подход «отказ от участия» при обучении своего ИИ на данных европейских пользователей. Компания опирается на правовое основание «законные интересы», предусмотренное GDPR, для обработки данных европейских пользователей в целях ИИ; эта позиция была оспорена правозащитной организацией NOYB.
Защитите себя
- Если ваш Instagram Если ваш аккаунт публичный, откройте Профиль > Меню. В разделе «Как другие могут взаимодействовать с вами» нажмите «Обмен и повторное использование », затем отключите настройки повторного использования публикаций и Reels в разделе «Разрешить людям повторно использовать ваш контент в Instagram и с функциями ИИ на Meta». Отключение этих настроек повторного использования предотвращает только создание и повторное использование изображений с помощью ИИ в будущем. Это не удалит уже созданный с помощью ИИ контент или ремиксы.
- Включите многофакторную аутентификацию (MFA) для всех своих учетных записей в Meta. Это один из самых простых способов защитить свою учетную запись на случай утечки пароля.
- Если вы хотите получить самую надежную защиту, которую в настоящее время предлагает Meta, переключитесь на другой режим. Instagram Сделать аккаунт приватным. Это грубое решение, но оно предотвращает использование вашего публичного профиля посторонними лицами в качестве источника информации.
Собственный Наблюдательный совет Meta уже заявил, что компании необходимы более эффективные инструменты обнаружения и более четкая маркировка контента, сгенерированного искусственным интеллектом. Если даже собственный орган управления Meta заявляет, что существующих мер защиты недостаточно, потребителям следует обратить на это внимание.
Обновление от 11 июля : После широкой критики по поводу конфиденциальности и согласия Meta вчера объявила об удалении функции Muse Image, которая позволяла пользователям создавать изображения с помощью ИИ, используя в качестве ссылки общедоступные изображения. Instagram учетные записи. Компания заявила, что эта функция « не оправдала ожиданий » и больше недоступна.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft Protection выявляет подозрительную активность до того, как она станет проблемой.
