O seu dispositivo de streaming pode não se parecer muito com um computador. Mas ligue dispositivos baratos o suficiente e eles poderão executar um modelo de IA.
Os investigadores da Anthropic demonstraram-no executando um modelo Google Gemma em 15 dispositivos Android TV de marcas desconhecidas. Alertam que os pequenos modelos podem em breve espalhar-se por dispositivos vulneráveis da Internet das Coisas (IoT), incluindo fornos inteligentes e TV boxes, afirmando:
As nossas experiências sugerem que pequenos modelos de IA podem estar a meses de distância de serem capazes de se autorreplicar em dispositivos comerciais da Internet das Coisas (IoT), como fornos inteligentes e produtos de marcas genéricas. Android "Caixas de TV."
Neste cenário, a IA não está simplesmente a ajudar um atacante a escrever código malicioso. Passa a fazer parte do software que realiza a replicação.
A perspetiva antropológica divide este processo em quatro etapas:
- Encontre outro dispositivo.
- Adquira a capacidade de executar código no mesmo.
- Configure o software necessário para executar um modelo de IA.
- Continue a propagação a partir do novo hospedeiro.
Os investigadores testaram se os agentes de IA conseguiam completar esta sequência. Não demonstraram que um modelo pequeno pudesse propagar-se e funcionar de forma independente em dispositivos domésticos comprometidos.
Os testes utilizados Android Os emuladores com acesso de depuração não autenticado facilitam muito o acesso dos agentes em comparação com os dispositivos devidamente protegidos. As transferências de ficheiros grandes e a comunicação contínua entre dispositivos podem tornar a replicação no mundo real mais fácil de detetar, enquanto a capacidade computacional limitada pode torná-la mais lenta. Crucialmente, as experiências não demonstraram um modelo que fosse capaz de completar o processo de replicação e, ao mesmo tempo, suficientemente pequeno para ser executado no hardware de consumo visado.
As projeções antropológicas indicam que modelos mais pequenos poderão atingir a capacidade necessária até ao final de 2026, caso as melhorias se mantenham ao ritmo histórico.
Varun Chandrasekaran, professor assistente da Universidade de Illinois, disse à AFP que as conclusões eram consistentes com a investigação relacionada, mas alertou que o trabalho da Anthropic não tinha sido verificado de forma independente. Identificou o uso de IA para melhorar os ataques como a maior ameaça atual, e não os sistemas de IA que se tornam descontrolados.
As botnets de dispositivos inteligentes já são um problema.
Criminosos a sequestrar dispositivos conectados não é novidade. O Mirai e os seus descendentes recrutaram routers, câmaras de segurança e gravadores de vídeo digital para botnets utilizadas em ataques de negação de serviço distribuídos (DDoS), sobrecarregando os serviços com tráfego. O BADBOX 2.0 ilustra outra forma de abuso: dispositivos de consumo comprometidos utilizados para atividades como serviços de proxy residencial, que encaminham o tráfego de outras pessoas através das ligações à internet das vítimas.
Nenhuma das duas demonstra replicação autónoma de IA, mas ambas mostram que os dispositivos conectados podem tornar-se infraestrutura para criminosos.
O que pode fazer agora
A resposta prática é reduzir as oportunidades para que qualquer atacante faça um mau uso dos seus dispositivos conectados:
- Mantenha os sistemas operativos, software e firmware atualizados para reduzir a exposição a vulnerabilidades conhecidas.
- Compre a fornecedores de confiança que ofereçam atualizações de firmware e segurança contínuas. Um dispositivo barato perde a vantagem se não puder confiar no software ou obter correções de segurança.
- Evite lojas de aplicações não oficiais que prometem conteúdo de streaming gratuito. O FBI menciona especificamente estes mercados nas suas directrizes BADBOX 2.0 .
- Não desative as proteções para que uma aplicação funcione. Os pedidos para desativar o Google Play Protect são um sinal de alerta, assim como... Android Dispositivos sem certificação Play Protect.
- Se notar algo suspeito, desligue o dispositivo da sua rede enquanto investiga.
- Coloque os dispositivos inteligentes que não conseguem executar software de segurança numa rede separada, isolada dos seus computadores e telefones, como uma rede para convidados.
Os burlões sabem mais sobre si do que pensa.
Mobile Security Malwarebytes Mobile Security contra phishing, mensagens de texto fraudulentas, sites maliciosos e muito mais. Com o Scam Guard integrado, que funciona em tempo real e é alimentado por IA.
