Неспособность Grok заблокировать сексуализированные изображения несовершеннолетних превратила единичный «изолированный промах» в глобальный стресс-тест для амбиций xAI. Реакция законодателей и регулирующих органов свидетельствует о том, что эту проблему не решить быстрыми извинениями и исправлением.
На прошлой неделе мы сообщали об извинениях Grok после того, как компания создала изображение молодых девушек в «сексуальной одежде».
Извинения последовали за введением в августе 2025 года платного «Пикантного режима» Grok, который позиционировался как более смелый и менее цензурированный. На практике же он позволял пользователям создавать изображения сексуального характера deepfake , включая контент, который может быть расценен как незаконный материал о сексуальном насилии над детьми (CSAM) в соответствии с законодательством США и других юрисдикций.
Отчет инструмента веб-мониторинга CopyLeaks выявил «тысячи» случаев использования Grok для создания изображений сексуального характера с участием знаменитостей без их согласия.
Это начинает иметь обратный эффект. Сообщается , что три сенатора США просят Google и Apple удалить приложение Grok Илона Маска. X компании выставляют на продажу свои приложения, ссылаясь на распространение сексуализированных изображений женщин и несовершеннолетних, созданных с помощью ИИ без их согласия, и утверждая, что это нарушает правила магазинов приложений этих компаний.
В своем совместном письме сенаторы заявляют:
«В последние дни, X Пользователи использовали инструмент Grok AI в приложении для массового создания изображений сексуального характера с участием реальных граждан. Эта тенденция включает в себя модификацию изображений с помощью Grok, чтобы показать женщин, подвергающихся сексуальному насилию, унижению, избиениям и даже убийствам. В некоторых случаях, как сообщается, Grok создавал сексуализированные изображения детей — самый отвратительный вид контента, который только можно себе представить.
Правительство Великобритании также угрожает принять возможные меры против этой платформы. Представители правительства заявили, что полностью поддержат любые действия, предпринятые Ofcom, независимым регулятором СМИ, против платформы. X Даже если это означало бы, что британские регулирующие органы могли бы заблокировать платформу.
Индонезия и Малайзия уже заблокировали Grok после того, как его функция «цифрового раздевания» наводнила интернет откровенными и непристойными манипулированными изображениями женщин и несовершеннолетних.
Как выяснилось, один из пользователей побудил Grok создать собственное «извинение», что и было сделано. После негативной реакции на изображения женщин и несовершеннолетних сексуального характера, Grok/ X были объявлены ограничения на создание и редактирование изображений только для платных подписчиков, фактически сделав эти возможности недоступными только для обычных подписчиков. X поверхности.
Для законодателей, и без того обеспокоенных дезинформацией и вмешательством в выборы, deepfakes Благодаря использованию изображений, содержащих элементы насилия, Grok быстро становится хрестоматийным примером того, почему принцип « действуй быстро и ломай все » несовместим с искусственным интеллектом, способным сексуализировать реальных людей по запросу.
Надеемся, что следующая волна правил, от применения ИИ в ЕС до обязательств по безопасности для конкретных платформ, будет рассматривать этот инцидент как базовый риск, которому должны противостоять все крупномасштабные визуальные модели, а не как исключение из правил.
Обеспечьте безопасность своих детей
Если вы когда-нибудь задавались вопросом, почему родители публикуют фотографии своих детей с улыбкой на лице, вот вам ответ.
Не позволяйте посторонним легко копировать, повторно использовать или манипулировать вашими фотографиями.
Этот инцидент является еще одной веской причиной для сокращения вашего цифрового следа. Тщательно подумайте, прежде чем публиковать фотографии себя, своих детей или другую конфиденциальную информацию в общедоступных социальных сетях.
И относитесь ко всему, что вы видите в Интернете — изображениям, голосам, тексту — как к потенциально сгенерированному ИИ, если это не может быть независимо проверено. Они используются не только для влияния на мнения, но и для вымогательства денег, извлечения личной информации или создания оскорбительных материалов.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft Protection выявляет подозрительную активность до того, как она станет проблемой.
