Неспособность Grok заблокировать сексуализированные изображения несовершеннолетних превратила единичный «изолированный промах» в глобальный стресс-тест для амбиций xAI. Реакция законодателей и регулирующих органов свидетельствует о том, что эту проблему не решить быстрыми извинениями и исправлением.
На прошлой неделе мы сообщали об извинениях Grok после того, как компания создала изображение молодых девушек в «сексуальной одежде».
Извинения последовали за введением в августе 2025 года платной функции Grok «Spicy Mode», которая рекламировалась как более смелая и менее цензурированная. На практике она позволяла пользователям создавать сексуальные deepfake , в том числе контент, который может пересекаться с незаконными материалами, связанными с сексуальным насилием над детьми (CSAM), в соответствии с законодательством США и других юрисдикций.
Отчет инструмента веб-мониторинга CopyLeaks выявил «тысячи» случаев использования Grok для создания изображений сексуального характера с участием знаменитостей без их согласия.
Это начинает приносить обратный эффект. Сообщается, что три сенатора США просят Google и Apple удалить X Grok и X Илона Маска из своих магазинов приложений, ссылаясь на распространение несогласованных сексуализированных изображений женщин и несовершеннолетних, созданных с помощью искусственного интеллекта, и утверждая, что это нарушает правила магазинов приложений этих компаний.
В своем совместном письме сенаторы заявляют:
«В последние дни X использовали инструмент Grok AI приложения для массового создания несогласованных сексуальных изображений реальных частных лиц. Эта тенденция включала в себя изменение Grok изображений с целью изображения женщин, подвергающихся сексуальному насилию, унижению, причинению вреда и даже убийству. В некоторых случаях Grok, по сообщениям, создавал сексуализированные изображения детей — самый отвратительный тип контента, который только можно представить».
Правительство Великобритании также угрожает принять возможные меры против платформы. Правительственные чиновники заявили, что полностью поддержат любые меры, принятые Ofcom, независимым регулятором СМИ, против X. Даже если это означает, что британские регуляторы могут заблокировать платформу.
Индонезия и Малайзия уже заблокировали Grok после того, как его функция «цифрового раздевания» наводнила интернет откровенными и непристойными манипулированными изображениями женщин и несовершеннолетних.
Как оказалось, пользователь попросил Grok сгенерировать собственное «извинение», что и было сделано. После негативной реакции на сексуализированные изображения женщин и несовершеннолетних,X ограничении генерации и редактирования изображений только для платных подписчиков, фактически закрыв доступ к этим функциям на основных X .
Для законодателей, уже обеспокоенных дезинформацией, вмешательством в выборы, deepfakes и злоупотреблением изображениями, Grok быстро становится типичным примером того, почему принцип«действуй быстро и ломай стереотипы»не сочетается с ИИ, который может сексуализировать реальных людей по запросу.
Надеемся, что следующая волна правил, от применения ИИ в ЕС до обязательств по безопасности для конкретных платформ, будет рассматривать этот инцидент как базовый риск, которому должны противостоять все крупномасштабные визуальные модели, а не как исключение из правил.
Обеспечьте безопасность своих детей
Если вы когда-нибудь задавались вопросом, почему родители публикуют фотографии своих детей с улыбкой на лице, вот вам ответ.
Не позволяйте посторонним легко копировать, повторно использовать или манипулировать вашими фотографиями.
Этот инцидент является еще одной веской причиной для сокращения вашего цифрового следа. Тщательно подумайте, прежде чем публиковать фотографии себя, своих детей или другую конфиденциальную информацию в общедоступных социальных сетях.
И относитесь ко всему, что вы видите в Интернете — изображениям, голосам, тексту — как к потенциально сгенерированному ИИ, если это не может быть независимо подтверждено. Они используются не только для влияния на мнения, но и для вымогательства денег, извлечения личной информации или создания оскорбительных материалов.
Мы не просто сообщаем об угрозах — мы помогаем защитить ваши социальные сети
Риски кибербезопасности не должны выходить за рамки заголовков новостей. Защитите свои учетные записи в социальных сетях с помощьюMalwarebytes Identity Theft .
