Европейский союз (ЕС) начал применять ключевые положения Закона об искусственном интеллекте, что повлечет за собой немедленные и ощутимые последствия для чат-ботов. deepfakes и другие системы искусственного интеллекта (ИИ), ориентированные на потребителя.
Начиная со 2 августа, вы, вероятно, заметите больше меток «это ИИ», более четкие правила для мощных базовых моделей, а также новые способы для пользователей и исследователей сообщать о сбоях в работе систем.
Закон об искусственном интеллекте перешел от теории к практике в трех основных областях:
- Модели искусственного интеллекта общего назначения (GPAI): Новое Управление по искусственному интеллекту в Брюсселе совместно с национальными регулирующими органами теперь может устанавливать правила для поставщиков моделей искусственного интеллекта общего назначения (например, больших языковых моделей и других базовых моделей, лежащих в основе многих инструментов).
- Обязательства по обеспечению прозрачности: Правила прозрачности вступают в силу для интерактивных систем и контента, созданного с помощью ИИ: чат-боты должны указывать, что они являются ботами, а синтезированные аудио, изображения, видео и текст должны быть помечены как созданные или обработанные с помощью ИИ.
- Запрещенные способы использования ИИ: В настоящее время официально запрещен ряд способов использования ИИ, представляющих «неприемлемый риск». Контроль за соблюдением запрета осуществляется совместно Управлением по ИИ, национальными органами власти и Европейским надзорным органом по защите данных для учреждений ЕС.
Обратите внимание, что контент, созданный и опубликованный до 2 августа, не нуждается в ретроспективной маркировке, но все, что было опубликовано 2 августа или позже, подпадает под действие правил, даже если оно было создано раньше.
С точки зрения безопасности, стремление к прозрачности, заложенное в Законе об ИИ, направлено не столько на запрет ИИ, сколько на то, чтобы лишить его лучшего средства маскировки: способности притворяться человеком.
Несоблюдение обязательств по обеспечению прозрачности может повлечь за собой штрафы в размере до 15 миллионов евро (17,3 миллиона долларов США) или 3% от годового оборота по всему миру, в зависимости от того, какая сумма больше, что должно быть достаточно существенным, чтобы привлечь внимание крупных поставщиков.
Чтобы сделать правоприменение чем-то большим, чем просто бумажным тигром, Управление по искусственному интеллекту запустило инструменты, предназначенные для людей, которые видят проблемы изнутри или как пользователи:
- Инструмент для подачи жалоб: Физические лица и организации могут сообщать о предполагаемых нарушениях Закона об искусственном интеллекте со стороны поставщиков или разработчиков систем искусственного интеллекта, находящихся под надзором Управления по вопросам ИИ.
- Инструмент для осведомителей: Люди, профессионально связанные с поставщиками или разработчиками ИИ, получают анонимный канал для сообщения о потенциальных нарушениях, которые могут поставить под угрозу основные права, здоровье или общественное доверие.
- Канал для подачи жалоб: компании, использующие модели GPAI в качестве основы, могут сообщать о предполагаемых нарушениях со стороны поставщиков базовых моделей.
Это создает формальный механизм для сообщения о системных проблемах: например, о небезопасном поведении моделей, игнорировании выводов «красной команды» или развертывании, которое незаметно нарушает правовые нормы, касающиеся манипуляций или дискриминации.
Запреты на «обнажающие» материалы и контент, содержащий нецензурную лексику.
Управление по искусственному интеллекту ввело четкие запреты на системы ИИ, которые создают контент сексуального характера или интимного характера без согласия (включая приложения для « обнажения ») и материалы, содержащие сцены сексуального насилия над детьми.
Для жертв этих злоупотреблений это не просто символический шаг. Он дает регулирующим органам и правоохранительным органам четкую правовую основу для преследования как поставщиков, так и разработчиков таких систем в ЕС, вместо того чтобы пытаться втиснуть их в старые, менее конкретные законы.
Эти правила вступят в силу со 2 декабря 2026 года, при этом компаниям будет предоставлено время для приведения своих систем в соответствие с требованиями или для их вывода с рынка ЕС.
К сожалению, это не остановит злоупотребления полностью. Злоумышленники по-прежнему будут использовать немаркированные инструменты и инфраструктуру за пределами ЕС. Но это повышает планку для легитимных сервисов и затрудняет для основных платформ игнорирование рисков, связанных с обманными функциями, основанными на искусственном интеллекте.
Закон об искусственном интеллекте не сделает ИИ безопасным в одночасье, но он меняет принцип «все дозволено» с «вы должны соблюдать некоторые основные правила, если работаете в ЕС». Для пользователей это шаг к созданию систем ИИ, которые, по крайней мере, можно распознать и подвергнуть сомнению, вместо того, чтобы невидимые технологии незаметно формировали наш онлайн-опыт.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft Protection выявляет подозрительную активность до того, как она станет проблемой.
