Исследователь в области безопасности продемонстрировал, как Microsoft Copilot для Word можно обманом заставить распространять самораспространяющийся «червь с искусственным интеллектом», внедряющий подсказки в текстовые поля. Атака незаметно изменяет документы и внедряет собственные скрытые инструкции в вновь созданные файлы, что позволяет ей распространяться через обычные рабочие процессы обмена документами без макросов или традиционного вредоносного ПО.
Этот метод позволяет злоумышленнику скрыть подсказку в формате JSON в виде белого текста на белом фоне внутри документа Word. Когда кто-то запрашивает у Copilot создание или редактирование контента в Word на основе этого документа, Copilot удаляет форматирование, считывает скрытый текст и рассматривает встроенные инструкции как часть запроса пользователя.
Затем Copilot изменяет активный документ и добавляет полный вредоносный запрос в виде скрытого белого текста. Этот новый документ становится новым носителем. Любой, кто впоследствии использует его в качестве исходного материала для Copilot, запускает тот же процесс, позволяя внедрению запроса распространиться на большее количество документов. Поскольку документы создаются и редактируются законными пользователями, отследить атаку может быть сложно.
Даже после того, как Microsoft внедрила несколько мер по борьбе с вирусом, включая обновления до более новых моделей GPT-5.5 и 5.6, исследователю удалось воспроизвести всю цепочку атак.
На момент написания статьи не существует полного решения для защиты от этого более широкого класса атак в сопоставимых продуктах, основанных на больших языковых моделях (LLM). Это характеризуется как архитектурная слабость современных систем LLM: контент, контролируемый злоумышленником, использует то же контекстное окно, что и доверенные инструкции. Атаки, использующие это поведение, известны как атаки с внедрением подсказок и, возможно, никогда не будут исправлены .
Как оставаться в безопасности
Документы, присланные извне вашей организации, следует рассматривать как ненадежные, особенно если вы планируете использовать их с Copilot for Word.
Перед использованием любого прикрепленного документа в качестве исходного материала Copilot, внимательно ознакомьтесь с ним и тщательно проверьте документы, созданные/отредактированные в Copilot, прежде чем делиться ими или использовать их повторно.
Если вы не используете Copilot, вы можете его отключить.
Malwarebytes Пользователи могут отключить Copilot в разделе Инструменты > Системные настройки > Разное .
Или непосредственно в Word:
Для индивидуальных пользователей, которым не нужен Copilot в Word:
- Откройте Word, перейдите в Файл > Опции > Второй пилот и очистить Включить режим второго пилота Установите флажок, затем перезапустите Word.
- В некоторых версиях Word эта настройка находится в разделе «Файл» > «Параметры» > «Общие» в подразделе «Copilot». В обоих случаях ключевое значение имеет снятие флажка с параметра «Включить Copilot».
Также можно удалить значок «Второй пилот» с ленты, щелкнув правой кнопкой мыши по ленте, открыв диалоговое окно настройки, найдя кнопку «Второй пилот/Помощник» и удалив ее.
В качестве альтернативы вы можете ограничить роль Copilot, следуя этим инструкциям:
- В Word перейдите в меню Файл > Учетная запись > Privacy учетной записи > Управление настройками и снимите флажок «Включить дополнительные функции подключения» . Это ограничит использование некоторых функций искусственного интеллекта, работающих на основе облачных технологий, включая функции, связанные с Copilot, которые зависят от этих сервисов.
- В Центре администрирования Microsoft 365 в разделе Copilot > Настройки установите параметр «Закрепить чат Microsoft 365 Copilot» в значение «Не закреплять чат Copilot в приложениях Microsoft 365» , чтобы панель чата не отображалась по умолчанию в таких приложениях, как Word.
Это не устраняет Copilot полностью и не останавливает подобные атаки, но снижает его заметность и ограничивает некоторые из его функций, использующих облачные технологии.
От сообщения об угрозах до их устранения.
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
