Ваш стриминговый плеер может и не выглядеть как полноценный компьютер. Но если соединить достаточное количество недорогих устройств, они смогут запустить модель искусственного интеллекта.
Исследователи из Anthropic продемонстрировали это, запустив модель Google Gemma на 15 неоригинальных Android TV-приставках. Они предупреждают, что небольшие модели вскоре могут распространиться на уязвимые устройства Интернета вещей (IoT), включая умные духовки и ТВ-приставки, заявляя:
«Наши эксперименты показывают, что небольшим моделям ИИ, возможно, потребуется несколько месяцев, чтобы стать достаточно способными к самовоспроизведению на коммерческих устройствах Интернета вещей (IoT), таких как умные духовки и устройства неизвестных производителей». Android ТВ-приставки.
В этом сценарии ИИ не просто помогает злоумышленнику писать вредоносный код. Он становится частью программного обеспечения, осуществляющего его копирование.
Антропический подход разделяет этот процесс на четыре этапа:
- Найдите другое устройство.
- Получите возможность выполнять на нём код.
- Настройте программное обеспечение, необходимое для запуска модели искусственного интеллекта.
- Продолжайте распространение с нового хозяина.
Исследователи проверили, могут ли агенты ИИ выполнить эту последовательность действий. Им не удалось продемонстрировать, как небольшая модель распространяется и работает независимо на взломанных бытовых устройствах.
Использованные тесты Android Эмуляторы с неаутентифицированным доступом к отладочной информации значительно упрощают агентам получение доступа по сравнению с устройствами, должным образом защищенными. Передача больших файлов и длительная связь между устройствами могут облегчить обнаружение реального копирования, в то время как ограниченная вычислительная мощность может его замедлить. Важно отметить, что эксперименты не продемонстрировали модель, которая была бы одновременно достаточно мощной для завершения процесса копирования и достаточно компактной для работы на целевом потребительском оборудовании.
Согласно антропологическим прогнозам, более компактные модели смогут достичь необходимых возможностей к концу 2026 года, если темпы совершенствования будут оставаться на историческом уровне.
Варун Чандрасекаран, доцент Иллинойского университета, сообщил AFP , что полученные результаты согласуются с аналогичными исследованиями, но предупредил, что работа Anthropic не была независимо проверена. Он назвал более серьезной угрозой использование ИИ для улучшения атак, а не выход систем ИИ из-под контроля.
Ботнеты, использующие смарт-устройства, уже представляют собой проблему.
Взлом подключенных устройств преступниками — не новость. Mirai и его потомки использовали маршрутизаторы, камеры видеонаблюдения и цифровые видеорегистраторы в ботнетах для запуска распределенных DDoS-атак, перегружая сервисы трафиком. BADBOX 2.0 иллюстрирует другую форму злоупотребления: скомпрометированные потребительские устройства используются для таких действий, как предоставление услуг резидентных прокси-серверов, которые перенаправляют чужой трафик через интернет-соединения жертв.
Ни один из них не демонстрирует автономного воспроизведения ИИ, но оба показывают, что подключенные устройства могут стать инфраструктурой для преступников.
Что вы можете сделать сейчас?
Практическое решение заключается в том, чтобы свести к минимуму возможности для злоумышленников неправомерно использовать подключенные устройства:
- Регулярно обновляйте операционные системы, программное обеспечение и микропрограммы, чтобы снизить риск возникновения известных уязвимостей.
- Покупайте устройства у проверенных поставщиков, которые регулярно выпускают обновления прошивки и безопасности. Дешевое устройство менее привлекательно, если вы не можете доверять его программному обеспечению или получить исправления безопасности.
- Избегайте неофициальных магазинов приложений, обещающих бесплатный потоковый контент. ФБР специально указывает на такие площадки в своих рекомендациях BADBOX 2.0 .
- Не отключайте средства защиты, чтобы приложение работало. Запросы на отключение Google Play Protect — это тревожный сигнал, как и... Android устройства без сертификации Play Protect.
- Если вы заметите что-либо подозрительное, отключите устройство от сети на время проведения расследования.
- Разместите смарт-устройства, не способные запускать программное обеспечение для обеспечения безопасности, в отдельной сети, изолированной от ваших компьютеров и телефонов, например, в гостевой сети.
Мошенники знают о вас больше, чем вы думаете.
Malwarebytes Mobile Security вас от фишинга, мошеннических SMS-сообщений, вредоносных сайтов и многого другого. В приложение встроена функция Scam Guard, работающая на базе искусственного интеллекта в режиме реального времени.
