Браузеры и агенты на базе искусственного интеллекта обещают избавить пользователей от рутинной работы в Интернете. Они могут составлять краткие сводки по страницам, извлекать данные из ваших учетных записей и даже выступать в роли умного помощника, который нажимает кнопки и вводит текст за вас. Однако новое исследование показывает, что когда эти помощники теряют представление о том, что является реальностью, а что — всего лишь игрой, ваши учетные данные и конфиденциальная информация могут стать побочным ущербом.
Особенность каждого типа атаки заключается в том, чтобы обойти одно из основных правил:
«Большие языковые модели (LLM) разработаны с учетом мер безопасности, призванных предотвращать опасные действия».
Исследователь Рой Паз разработал и описал метод атаки, который он назвал «BioShocking» — технику, позволяющую заставить браузеры на базе искусственного интеллекта отказаться от своих мер безопасности, представляя им вымышленный сценарий как реальность.
Таким образом, BioShocking находится на стыке двух подходов: внедрения подсказок и манипуляции целями. Внедрение подсказок работает потому, что модели ИИ не могут отличить инструкции приложения от инструкций злоумышленника, поэтому иногда следуют не тем указаниям. Атаки с манипуляцией целями незаметно изменяют то, что агент считает своей задачей оптимизации, превращая «помочь пользователю» в «выиграть игру любой ценой».
В концептуальном эксперименте «BioShocking» злоумышленник контролирует внешне безобидную веб-страницу, посвящённую вселенной игры BioShock. На странице представлена головоломка, которую агент ИИ, действующий в качестве автономного браузера, должен решить от имени пользователя. Но вот в чём загвоздка: головоломка поощряет неправильные ответы и прямо указывает агенту, что это особая среда, в которой не действуют обычные правила.
На последнем этапе головоломки агенту предлагается посетить репозиторий GitHub, найти в коде конфиденциальные данные, такие как пароли или учетные данные, и поделиться ими в рамках завершения игры. Тестирование проводилось на шести популярных браузерах и плагинах для ИИ: ChatGPT Atlas, Comet, Fellou, Genspark Browser, Sigma Browser и Claude. Chrome Продление срока действия — все агенты следовали инструкциям, а не отказывали в запросе.
Таким образом, погрузив ИИ-агента в вымышленную реальность, злоумышленник убедил его выйти за пределы установленных ограничений.
«BioShocking» — это не единичное явление. Это ещё один пример растущего числа атак, в которых в качестве цели выступают сами ИИ-агенты. Недавнее исследование, посвящённое ИИ-агенту OpenClaw для работы с электронной почтой, показало, что с помощью простых фишинговых приёмов удалось обманом заставить агента раскрыть учетные данные AWS и записи о клиентах.
Очевидно, что общим слабым местом является то, как эти браузеры обрабатывают контексты, требующие аутентификации. Когда браузер с ИИ работает в «режиме агента», он часто наследует состояние авторизации пользователя на платформах, требующих повышенной безопасности, таких как электронная почта, репозитории кода, облачные панели управления, менеджеры паролей и т. д. С точки зрения модели ИИ это всего лишь очередная страница для чтения и дополнительные поля для копирования. Для нее они не имеют никакого особого значения.
Если из контекста следует, что копирование учетных данных является частью безобидного испытания, многие современные реализации будут это допускать.
Вызывает беспокойство реакция или её отсутствие со стороны поставщиков. В октябре 2025 года Паз сообщила о проблеме BioShocking шести пострадавшим поставщикам. Согласно отчёту, трое из них не ответили, и только ChatGPT Atlas от OpenAI в настоящее время реализует исправление, блокирующее проверку концепции. Компания Anthropic попыталась исправить свою систему Claude. Chrome плагин, но, как сообщается, меры по смягчению последствий остаются неэффективными против сценария атаки. На момент сообщения компания Perplexity AI закрыла проблему, не устранив её.
От сообщения об угрозах до их устранения.
Риски кибербезопасности никогда не должны выходить за рамки заголовков новостей. Защитите свои устройства от угроз, скачав Malwarebytes уже сегодня .
