Mac Исследователь в области безопасности Патрик Уордл утверждает, что превратить Muse в «идеальный бэкдор» — проще простого.
Всё чаще ИИ-помощники перестают быть просто инструментами, отвечающими на вопросы, и превращаются в агентов, способных планировать задачи, использовать подключенные сервисы и выполнять действия за нас. Эти действия могут включать запись на приём, заполнение форм, создание документов, совершение покупок или взаимодействие с электронной почтой и календарями.
Для этого им требуется больше разрешений, подключений к учетным записям и конфиденциальных данных. Поэтому, когда Meta пообещала, что «Muse создан с нуля для обеспечения конфиденциальности и безопасности», мы не ожидали увидеть ИИ-агента, которым легко манипулировать и который сможет предоставить весь этот доступ злоумышленнику.
По данным Meta, Muse может обрабатывать встречи, формы, взаимодействие со службой поддержки клиентов, покупки, создание документов и подключения к таким сервисам, как WhatsApp, электронная почта, календари и социальные сети. Он также может получать разрешения macOS на доступ к защищенным ресурсам, включая файлы, микрофон, камеру, местоположение и календари.
Как сообщает Ars Technica , Уордл обнаружил, что локально запущенное приложение или команда терминала могут изменить недокументированный параметр конфигурации Muse, который управляет сервером, используемым для расшифровки диктовки. Перенаправляя трафик диктовки на сервер, контролируемый злоумышленником, злоумышленник может перехватывать голосовые подсказки и получать токен аутентификации для учетной записи Muse жертвы.
Это не уязвимость удалённого выполнения кода, которая может поставить под угрозу безопасность системы. Mac Злоумышленнику сначала нужен способ запустить код локально, например, с помощью вредоносного ПО, вредоносного приложения или методов социальной инженерии.
Но, как мы видели на примере вредоносного ПО, похищающего информацию и проникающего на компьютеры Mac , первоначальный доступ отнюдь не невозможен.
Кто-то следит за вашими счетами. Убедитесь , что это мы.
Традиционные вредоносные программы, похищающие информацию, должны самостоятельно находить данные браузера, учетные данные, документы, историю чатов и другие ценные материалы. Компрометированный агент на основе ИИ может снизить этот барьер, объединив доступ к нескольким сервисам и разрешениям операционной системы за одним уже аутентифицированным интерфейсом.
В конечном итоге, дело не только в одной небезопасной настройке конфигурации. Это показывает, почему агентам искусственного интеллекта необходимы более высокие стандарты безопасности, чем обычным приложениям.
Как оставаться в безопасности
Совет Уордла относительно Muse прост: «Пожалуйста, не устанавливайте его».
Та же осторожность должна применяться и к другим агентам искусственного интеллекта.
Некоммерческий фонд Open Worldwide Application Security Project (OWASP), предоставляющий бесплатные рекомендации по безопасности приложений, перечисляет среди основных угроз безопасности, создаваемых агентами искусственного интеллекта, такие явления, как внедрение кода, злоупотребление инструментами, повышение привилегий, утечка данных, чрезмерная автономность, отравление памяти и раскрытие конфиденциальных данных.
Полезное правило заключается в том, что у агента ИИ не должно быть больше доступа, чем ему необходимо, и он не должен иметь возможности преобразовывать ненадежные инструкции в конфиденциальные действия без надлежащих проверок. На практике это означает:
- Не следует предоставлять новому агенту широкий доступ к электронной почте, чатам, календарям, облачному хранилищу, способам оплаты и правам доступа к устройствам одновременно.
- Регулярно проверяйте и удаляйте подключения, которые агенту на самом деле не нужны.
- Остерегайтесь внедрения вредоносных инструкций . Не следует предполагать, что агент ИИ распознает вредоносные инструкции, встроенные в веб-страницу, документ, электронное письмо или другой внешний контент.
- Обращайте внимание на необычное поведение агента, например, на неожиданные запросы на новые разрешения, повторную аутентификацию учетной записи, обмен файлами с внешними сервисами или действия, которые вы не инициировали.
Также следует защитить ваше устройство от вредоносных программ:
- Регулярно обновляйте программное обеспечение, чтобы злоумышленники не могли использовать известные уязвимости против вас.
- Используйте актуальное антивирусное решение, работающее в режиме реального времени, на всех своих устройствах .
- Чтобы защититься от атак ClickFix , не следуйте инструкциям, найденным на веб-сайтах и в незапрошенных сообщениях, которые предлагают выполнять команды.
От сообщения об угрозах до их устранения.
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
