Великобритания требует, чтобы детские телефоны к сентябрю блокировали изображения обнажённых людей

Создайте то, чего пока не существует. Не собирайте никаких данных, пока вы это делаете. Если вы ошибетесь, генеральному директору может грозить уголовное преследование. Это похоже на ультиматум, который правительство Великобритании выдвинуло Apple и Google 8 июня. У обеих компаний есть три месяца на то, чтобы внедрить средства защиты на уровне устройств, блокирующие изображения обнаженного тела на всех смартфонах и планшетах, продаваемых в Великобритании. Если они этого не сделают, правительство примет соответствующие законы — включая штрафы и, в крайнем случае, уголовную ответственность для руководителей технологических компаний.

Премьер-министр Кир Стармер объявил об этом на London Tech Week, обратившись к представителям компаний со следующими словами:

«Если они откажутся это сделать, мы примем меры и изменим закон».

Сама политика сформулирована ясно. А вот её реализация — нет.

Что уже есть в телефоне вашего ребенка, а чего нет

Обе компании уже принимают меры, чтобы не допустить просмотра детьми материалов с обнажёнными телами. Функция «Безопасность общения» от Apple предупреждает детей, использующих детские учетные записи, когда они отправляют или получают изображения и видео с обнажёнными телами через приложения «Сообщения», AirDrop, FaceTime и другие. На прошедшей на этой неделе Всемирной конференции разработчиков (WWDC) компания представила обновление этой функции с новыми возможностями.

Функция Google «Предупреждения о контенте деликатного характера» размывает изображения деликатного содержания в приложении Google Messages для пользователей, находящихся под родительским контролем, а также для подростков, вошедших в систему, но не находящихся под таким контролем — однако эта функция распространяется только на изображения, а не на видео.

В скором времени компания Apple введет в Великобритании и ряде других стран требование подтверждать, что пользователю исполнилось 18 лет, для доступа к определенным функциям на смартфонах. Для этого потребуется подтвердить возраст с помощью государственного удостоверения личности, платежных данных или других методов проверки в зависимости от региона.

По мнению правительства Великобритании, этих мер недостаточно. Оно отмечает, что существующие механизмы обнаружения обнаженного тела не распространяются на камеру и другие приложения, сторонние мессенджеры и функции поиска. Иными словами, меры защиты не охватывают большую часть функций телефона. Камера, WhatsApp, Signal, Safari и фотогалерея находятся за пределами той «защитной зоны», которую родители, возможно, считают уже существующей.

Возможно ли сканирование с соблюдением конфиденциальности?

В этом сообщении также есть фраза, которую трудно согласовать с остальным текстом:

«Компании должны внедрять эти меры, не ставя под угрозу конфиденциальность и не собирая никаких данных».

Взрослые могут отказаться от участия, но только после прохождения проверки возраста.

Это непростая задача. Privacy утверждают, что проверка возраста неизбежно создает новые риски, связанные со сбором данных, даже если компании и стараются свести к минимуму объем хранимой информации. Какую бы систему ни разработали Apple и Google, вероятно, в той или иной форме все равно придется вести учет. Если руководители могут понести личную ответственность за несоблюдение требований, кто-то должен иметь возможность продемонстрировать, какие действия система совершала и когда.

Доказательства правительства в пользу того, что все это возможно, основываются на единственном продукте: HarmBlock от SafeToNet, который Министерство внутренних дел называет «подтвержденным примером» защиты устройств по принципу «безопасность по умолчанию». Исходный код HarmBlock (который не является общедоступным) анализирует изображения и потоковое видео исключительно на самом устройстве.

Организации, защищающие право на цифровую конфиденциальность, не одобрили это заявление. Организация Big Brother Watch указала на то, что дети могут легко получить доступ к устройствам, зарегистрированным на взрослых, и предупредила, что обязательная проверка личности взрослых приведет к «концу анонимности и конфиденциальности в Интернете».

Приложение для обмена личными сообщениями Signal заявило, что обещания о том, что сканирование будет происходить исключительно на устройстве, являются «слабым утешением», поскольку независимо от того, где работает система, ее охват в конечном итоге будет определяться правительством, а не технологиями:

«Его сфера применения будет определяться прихотями и запретами правительства, сегодня направленными на выявление обнаженности, а завтра — на политические высказывания».

Apple уже сталкивалась с подобной ситуацией. В 2021 году компания объявила об отдельном проекте по выявлению на устройствах изображений, связанных с известными случаями сексуального насилия над детьми, путем сопоставления хэшей изображений с базой данных известных материалов, но впоследствии тихо отказалась от него из-за непрекращающейся критики со стороны защитников прав на неприкосновенность частной жизни.

Что семьи могут сделать сегодня

Сентябрь закончится либо добровольным соблюдением правил, либо принятием поспешных законов. В любом случае, это никак не изменит то, что сейчас находится в телефоне вашего ребенка. На сегодняшний день мессенджеры, которыми чаще всего пользуются подростки, не защищены. Многие случаи груминга и сексторции начинаются в приложениях, которые работают вне рамок встроенных средств безопасности операционной системы. Родители и дети могут принять дополнительные меры для обеспечения безопасности:

Включите функцию «Безопасность общения» на iPhone с детским аккаунтом и предупреждения о контенте для взрослых в Android под родительским контролем. Возможно, эти меры помогут решить проблему лишь частично, но это лучше, чем ничего.
Поговорите со своими детьми о принуждении к обмену контентом. Фонд «Internet Watch Foundation» сообщил, что 91 % обращений, рассмотренных им в 2024 году, содержали контент, созданный самими детьми. Детей часто принуждают отправлять материалы откровенного характера злоумышленникам в сети. Фонд «Internet Watch Foundation» располагает списком ресурсов для тех, кого принуждают отправлять интимные фотографии в Интернете.
Позаботьтесь об основных мерах безопасности, которые остаются актуальными независимо от политики: установите уникальные пароли на всех учетных записях и включите многофакторную аутентификацию.
Будьте осторожны, публикуя в Интернете фотографии детей, которых вы знаете. Преступники всё чаще используют изображения, не содержащие откровенных сцен, для создания с помощью искусственного интеллекта материалов сексуального характера, которые впоследствии могут быть использованы в целях шантажа.