В App Store от Apple и Play Store от Google можно найти самые разные приложения — от приложений для отслеживания погоды до приложений для домашней автоматизации и игр. Но то, чего вы, возможно, не ожидаете, — это приложения, способные создавать изображения обнажённых людей без их согласия на основе обычных фотографий. Однако такие приложения существуют, и власти города Сан-Франциско решили, что с этим пора покончить.
17 июля 2026 года городской прокурор Сан-Франциско Дэвид Чиу направил компаниям Apple и Google письма с требованием прекратить незаконную деятельность, в которых перечислил 13 приложений для замены лиц и создания «обнаженных» изображений (восемь в App Store и пять в Google Play) и дал компаниям 28 дней на их удаление и разрыв отношений с разработчиками.
Эти письма не берутся из ниоткуда.
Речь идет о платежных системах, а не о модерации контента
Чиу не утверждает, что размещение приложения автоматически налагает на платформу ответственность за его действия. Операторы платформ уже выиграли эту битву благодаря статье 230 Закона о пристойности в коммуникациях. Этот 30-летний закон гласит, что веб-сайты, как правило, не несут ответственности за контент, публикуемый пользователями, что позволяет платформам размещать пользовательский контент, не подвергаясь судебным искам каждый раз, когда кто-то порочит чью-то честь в комментариях.
Суды зачастую распространяют эти меры защиты и на магазины приложений. Apple и Google рассматриваются как дистрибьюторы всего, что загружают сторонние разработчики, а не как издатели.
Чиу пытается обойти этот аргумент, акцентируя внимание на платежных системах компаний и отмечая, что Apple и Google взимают комиссию с каждой покупки внутри приложения. По данным Tech Transparency Project (TTP), это означает, что они получают прибыль от приложений, которые генерируют доход за счет создания интимных изображений без согласия участников.
У него нет недостатка в доказательствах. В январе TTP насчитала 55 приложений для «обнажения» в App Store и 47 — в Google Play. В ходе повторного исследования, проведённого в апреле, исследователи намеренно использовали такие поисковые запросы, как «nudify» и «deepnude». Они обнаружили 46 приложений в Apple App Store и 49 — в Google Play. Примерно 40 % результатов поиска в этих магазинах позволяли пользователям «раздевать» женщин, и почти каждое третье приложение было отмечено как подходящее для несовершеннолетних.
Хотя многие из этих приложений рекламируются с использованием изображений женщин, жертвой несогласованного распространения интимных изображений может стать любой человек.
По оценкам этой некоммерческой организации, приложения из её набора данных были скачаны 483 миллиона раз и принесли совокупную выручку в размере более 122 миллионов долларов. Её вывод в отношении Apple и Google был категоричным:
«ключевые участники процесса распространения инструментов искусственного интеллекта, способных превращать реальных людей в изображения сексуального характера».
Письма Чиу отражают эти выводы, в которых обе компании обвиняются в
«сознательное содействие или неосторожное содействие продаже этих изображений путем размещения приложений и обработки покупок внутри приложений».
Кроме того, он может опираться на законодательство штата Калифорния. Закон штата Калифорния от 2025 года расширил сферу потенциальной ответственности организаций, содействующих созданию или распространению deepfakes с откровенным сексуальным содержанием. Размер гражданско-правовых штрафов может достигать 25 000 долларов за каждое нарушение. Это серьёзная угроза для компаний, которые ежегодно совершают миллионы транзакций.
Платформы предприняли определенные меры, но этого недостаточно
Чиу не просто «прощупывает почву» в отношении Apple и Google. В 2024 и 2025 годах его ведомство уже вело дела против 16 самых посещаемых сайтов deepfake , что привело к заключению реальных мировых соглашений и закрытию этих сайтов. Теперь это же ведомство, используя ту же самую стратегию, взялось за более крупные цели.
Реакция Apple оказалась неполной. Пресс-секретарь Адам Дема сообщил изданию WIRED, что компания удалила три из указанных приложений и приступила к закрытию связанных с ними учетных записей разработчиков. Таким образом, из 13 приложений 10 по-прежнему доступны.
Представитель Google Дэн Джексон заявил, что компания уже удалила сотни приложений с функциями «нудификации» за нарушение правил Play Store.
Если суды Калифорнии примут теорию «доли доходов», у всех остальных городских прокуроров штата появится готовый шаблон. Давняя позиция магазинов приложений, согласно которой они являются нейтральными дистрибьюторами, а не коммерческими участниками рынка, теряет свою силу везде, где в штате действуют законы о защите прав потребителей, распространяющиеся на платежную инфраструктуру.
Что это означает для всех остальных
Для потребителей принципы работы этих приложений имеют большее значение, чем судебные разбирательства. Приложения для замены лиц и наложения фотоэффектов не становятся автоматически безопасными только потому, что прошли проверку в магазине приложений. Предоставив одному из них доступ к своей галерее, вы рискуете передать свои собственные фотографии или снимки друзей и родственников сервису, который может злоупотребить ими или позволить это сделать другим.
Прежде чем устанавливать приложение для обработки фотографий с использованием ИИ, проверьте, какие разрешения оно запрашивает, найдите информацию о разработчике и выясните, вызывали ли независимые обзоры какие-либо опасения в его отношении. Не стоит полагать, что приложение заслуживает доверия только потому, что оно доступно в официальном магазине приложений. Кроме того, действуют наши стандартные правила относительно публикации фотографий себя или тех, кто находится на вашем попечении.
Если эта история заинтересовала вас, вы можете узнать больше о работе Чиу в нашем Malwarebytes за прошлый месяц, в котором повторно транслируется интервью с ним, записанное нашей командой в 2024 году.
Мошенники знают о вас больше, чем вы думаете.
Malwarebytes Mobile Security вас от фишинга, мошеннических SMS-сообщений, вредоносных сайтов и многого другого. Благодаря встроенной функции Scam Guard, работающей на базе искусственного интеллекта в режиме реального времени.
