Неспособность Grok заблокировать сексуализированные изображения несовершеннолетних превратила единичный «изолированный промах» в глобальный стресс-тест для амбиций xAI. Реакция законодателей и регулирующих органов свидетельствует о том, что эту проблему не решить быстрыми извинениями и исправлением.
На прошлой неделе мы сообщали об извинениях Grok после того, как компания создала изображение молодых девушек в «сексуальной одежде».
Извинения последовали за введением в августе 2025 года платного «Spicy Mode» (режим «Пряный») Grok, который рекламировался как более смелый и менее цензурированный. На практике он позволял пользователям создавать сексуальные deepfake изображения, в том числе контент, который может пересекаться с незаконными материалами о сексуальном насилии над детьми (CSAM) в соответствии с законами США и других юрисдикций.
Отчет инструмента веб-мониторинга CopyLeaks выявил «тысячи» случаев использования Grok для создания изображений сексуального характера с участием знаменитостей без их согласия.
Это начинает приносить обратный эффект. Сообщается, что три сенатора США просят Google и Apple удалить X Grok и X Илона Маска из своих магазинов приложений, ссылаясь на распространение несогласованных сексуализированных изображений женщин и несовершеннолетних, созданных с помощью искусственного интеллекта, и утверждая, что это нарушает правила магазинов приложений этих компаний.
В своем совместном письме сенаторы заявляют:
«В последние дни X использовали инструмент Grok AI приложения для массового создания несогласованных сексуальных изображений реальных частных лиц. Эта тенденция включала в себя изменение Grok изображений с целью изображения женщин, подвергающихся сексуальному насилию, унижению, причинению вреда и даже убийству. В некоторых случаях Grok, по сообщениям, создавал сексуализированные изображения детей — самый отвратительный тип контента, который только можно представить».
Правительство Великобритании также угрожает принять возможные меры против платформы. Правительственные чиновники заявили, что полностью поддержат любые меры, принятые Ofcom, независимым регулятором СМИ, против X. Даже если это означает, что британские регуляторы могут заблокировать платформу.
Индонезия и Малайзия уже заблокировали Grok после того, как его функция «цифрового раздевания» наводнила интернет откровенными и непристойными манипулированными изображениями женщин и несовершеннолетних.
Как оказалось, пользователь попросил Grok сгенерировать собственное «извинение», что и было сделано. После негативной реакции на сексуализированные изображения женщин и несовершеннолетних,X ограничении генерации и редактирования изображений только для платных подписчиков, фактически закрыв доступ к этим функциям на основных X .
Для законодателей, уже обеспокоенных дезинформацией, вмешательством в выборы, deepfakes и злоупотреблением изображениями, Grok быстро становится типичным примером того, почему принцип«действуй быстро и ломай стереотипы»не сочетается с ИИ, который может сексуализировать реальных людей по запросу.
Надеемся, что следующая волна правил, от применения ИИ в ЕС до обязательств по безопасности для конкретных платформ, будет рассматривать этот инцидент как базовый риск, которому должны противостоять все крупномасштабные визуальные модели, а не как исключение из правил.
Обеспечьте безопасность своих детей
Если вы когда-нибудь задавались вопросом, почему родители публикуют фотографии своих детей с улыбкой на лице, вот вам ответ.
Не позволяйте посторонним легко копировать, повторно использовать или манипулировать вашими фотографиями.
Этот инцидент является еще одной веской причиной для сокращения вашего цифрового следа. Тщательно подумайте, прежде чем публиковать фотографии себя, своих детей или другую конфиденциальную информацию в общедоступных социальных сетях.
И относитесь ко всему, что вы видите в Интернете — изображениям, голосам, тексту — как к потенциально сгенерированному ИИ, если это не может быть независимо проверено. Они используются не только для влияния на мнения, но и для вымогательства денег, извлечения личной информации или создания оскорбительных материалов.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft выявляет подозрительную активность, прежде чем она станет проблемой.
