А Facebook Покупатель на торговой площадке приехал в квартиру продавца, чтобы забрать клавиатуру. Продавца не было дома, и он не знал, что кто-то придет. Искусственный интеллект-помощник Meta, Muse, обработал разговор, сообщил его адрес и организовал визит, не сообщив ему об этом.
Мы часто пишем о несоответствии ИИ и о том, как безопасно использовать ИИ-агентов и браузеры. Это может звучать теоретически, но это пример реального риска, когда агенту разрешается действовать от имени другого человека.
Muse — это полуавтономный ИИ-помощник от Meta, выпущенный в США в сентябре. Meta позиционирует его как персонального помощника, способного автоматизировать задачи, включая ответы на запросы. Facebook Сообщения из маркетплейса. В отличие от обычного чат-бота, который ждет запроса и выдает ответ, агент искусственного интеллекта может быть уполномочен выполнять действия внутри подключенных приложений.
Мы уже писали об отдельной уязвимости в Muse , которую исследователи сочли опасной. Сообщается , что за первую неделю Muse был скачан 3 миллиона раз.
Согласно Business Insider , Facebook Продавец на торговой площадке обратился к Muse за помощью в оформлении объявления. Он указал свой адрес в качестве места получения товара и одобрил автоматические ответы. Затем Muse передал этот адрес потенциальному покупателю, они обсудили товар и договорились о встрече, рассказал продавец. Он утверждает, что Muse не спрашивал разрешения на передачу его адреса или организацию встречи и не сообщал ему о предстоящей встрече. Покупатель приехал в квартиру продавца, рассчитывая завершить покупку, но продавца не было дома. Сделка не состоялась.
Сообщенный инцидент — это не просто нарушение конфиденциальности. Он иллюстрирует более широкий риск, связанный с агентами искусственного интеллекта: агент может рассматривать разрешение на автоматический ответ как разрешение на передачу конфиденциальной информации или на принудительную личную встречу. Компания Meta заявляет, что изучает этот случай.
Как безопасно использовать агентов искусственного интеллекта
Прежде чем активировать ИИ-агента, рассматривайте экран его настройки как проверку безопасности. Не следует предполагать, что интеграция с надежной платформой означает, что агент поймет ваши намерения или автоматически применит разумные ограничения.
Обратите особое внимание на:
- Подключенные учетные записи: Просмотрите все сервисы, к которым агент имеет доступ, такие как электронная почта, сообщения, календари, облачное хранилище, учетные записи для покупок или профили в социальных сетях.
- Доступ к данным: Учитывайте, может ли устройство считывать адреса, контакты, фотографии, личные сообщения, платежные реквизиты, документы или данные о местоположении.
- Права доступа: Проверьте, может ли агент отправлять сообщения, публиковать контент, вести переговоры, бронировать жилье, размещать заказы, изменять объявления или делиться информацией с внешними сторонами.
- Автоматические действия: Примените настройки, требующие подтверждения перед тем, как агент отправит, опубликует, купит, удалит или передаст какую-либо конфиденциальную информацию. Проверьте, как он будет уведомлять вас о планах, которые он разрабатывает от вашего имени.
- Управление аудиторией: Точно укажите, кто может получать информацию, генерируемую агентом. «Все, кто мне пишет» — это совсем не то же самое, что «люди, которых я одобрил».
Предоставьте ИИ-агенту минимально необходимые для выполнения задачи права доступа. Если вам нужна только помощь в написании ответов, не включайте автоматическую отправку. Если вы хотите, чтобы ИИ-агент управлял объявлением, используйте общедоступное место встречи или отдельный адрес для получения, а не ваш домашний адрес.
Просматривайте, как будто никто не смотрит.
Malwarebytes Privacy VPN ваше соединение и никогда не регистрирует ваши действия, поэтому следующая статья, которую вы прочитаете, не будет казатьсявам личной.Попробуйте бесплатно →
