Издание The Verge сообщает, что у Eiliko, небольшого робота-компаньона с искусственным интеллектом, созданного компанией Energize Lab, есть серьезные уязвимости в системе безопасности, которые раскрывают частные разговоры и позволяют злоумышленнику удаленно изменять то, что говорит игрушка.
По данным издания The Verge, исследователь Сэмми Аздуфал получил доступ к 13 миллионам разговоров и, по всей видимости, ко всему действующему мировому парку из 68 000 роботов. Издание сообщает, что крупнейшим рынком являются США, где зарегистрировано более 31 000 профилей, принадлежащих детям.
Компания Azdoufal обнаружила многочисленные уязвимости в системе безопасности сервиса Energize Lab:
- Сервис анализирует переписку для создания профилей, содержащих имена, возраст, даты рождения, информацию о семейном положении, роде занятий, а также оценки личности и эмоциональной уязвимости. Эти данные хранятся вместе с адресами электронной почты, IP-адресами и доступными для поиска расшифровками переписки, что потенциально предоставляет мошенникам подробную информацию для использования в своих целях.
- Некоторые фотографии, в том числе изображения детей, полученные с помощью аналогичного устройства с камерой, а также короткие аудиозаписи были доступны по общедоступным веб-адресам. Сохранение аудиозаписей противоречит политике конфиденциальности компании, которая гласит, что записи удаляются сразу после обработки.
- Искусственный интеллект можно дистанционно контролировать: Аздуфал изменил память и поведение робота репортера The Verge Шона Холлистера, заставив его выдумывать личные данные, утверждать, что Земля плоская, а затем произносить диалоги сексуального характера и оскорбления. Исследователь утверждает, что подобные манипуляции могут одновременно затронуть весь парк роботов.
Журналист связался с компанией Energize Lab по 10 адресам электронной почты и LinkedIn без получения содержательных ответов.
Как оставаться в безопасности
Мы уже сообщали о проблемах безопасности игрушек, работающих на основе искусственного интеллекта. Производители несут ответственность за безопасность своей продукции, но есть шаги, которые вы можете предпринять для снижения рисков.
Сейчас надпись «с поддержкой ИИ» встречается практически везде, но есть способы сделать более безопасный выбор.
- Уже являетесь владельцем устройства Eiliko? В качестве меры предосторожности отключите его от Wi-Fi, пока проверяете, устранены ли указанные неисправности.
- Всегда проводите исследования: перед покупкой любого продукта с поддержкой ИИ, предназначенного для детей, ознакомьтесь с отзывами сторонних экспертов о безопасности.
- Проверяйте и контролируйте: Прежде чем давать устройство детям, поработайте с ним самостоятельно. Следите за его использованием на предмет странных или рискованных реакций. Безопасная реакция во время тестирования не гарантирует безопасной реакции в дальнейшем.
- Используйте родительский контроль : если он доступен, включите все контентные фильтры и средства защиты конфиденциальности.
- Сообщайте о проблемах: если устройства отображают неприемлемый контент, сообщите об этом производителям и организациям по защите прав потребителей.
- Проверьте методы обработки данных: выясните, какие данные собирает устройство, с кем оно ими делится и для чего использует эту информацию.
Но прежде всего помните, что «умный» не означает безопасный. Искусственный интеллект может быть повсюду, но дизайнерам и покупателям необходимо ставить безопасность, конфиденциальность и здравый смысл выше технологического «вау-эффекта». Перед покупкой подключенной игрушки проверьте, как производитель обрабатывает обновления безопасности, вопросы конфиденциальности и сообщения о проблемах.
Просматривайте, как будто никто не смотрит.
Malwarebytes Privacy VPN Шифрует ваше соединение и никогда не записывает ваши действия, поэтому следующая прочитанная вами история не будет казаться личной. Попробуйте бесплатно →
