Seu dispositivo de streaming pode não parecer muito com um computador. Mas conecte dispositivos baratos o suficiente e eles poderão executar um modelo de IA.
Pesquisadores da Anthropic demonstraram isso executando um modelo do Google Gemma em 15 dispositivos Android TV de marcas desconhecidas. Eles alertam que pequenos modelos podem se espalhar em breve por dispositivos vulneráveis da Internet das Coisas (IoT), incluindo fornos inteligentes e TV boxes, afirmando:
Nossos experimentos sugerem que pequenos modelos de IA podem estar a meses de distância de serem capazes de se autorreplicar em dispositivos comerciais da Internet das Coisas (IoT), como fornos inteligentes e produtos de marcas genéricas. Android "Caixas de TV."
Nesse cenário, a IA não está simplesmente ajudando um invasor a escrever código malicioso. Ela se torna parte do software que realiza a replicação.
A perspectiva antropológica divide esse processo em quatro etapas:
- Encontre outro dispositivo.
- Adquira a capacidade de executar código nele.
- Configure o software necessário para executar um modelo de IA.
- Continue a propagação a partir do novo hospedeiro.
Os pesquisadores testaram se agentes de IA conseguiam completar essa sequência. Eles não demonstraram que um modelo pequeno pudesse se propagar e funcionar de forma independente em dispositivos domésticos comprometidos.
Os testes utilizados Android Emuladores com acesso de depuração não autenticado facilitam muito o acesso dos agentes em comparação com dispositivos devidamente protegidos. Transferências de arquivos grandes e comunicação contínua entre dispositivos podem tornar a replicação no mundo real mais fácil de detectar, enquanto a capacidade computacional limitada pode torná-la mais lenta. Crucialmente, os experimentos não demonstraram um modelo que fosse capaz de concluir o processo de replicação e, ao mesmo tempo, pequeno o suficiente para ser executado no hardware de consumo visado.
Projeções antropológicas indicam que modelos menores poderão atingir a capacidade necessária até o final de 2026, caso as melhorias continuem no ritmo histórico.
Varun Chandrasekaran, professor assistente da Universidade de Illinois, disse à AFP que as descobertas eram consistentes com pesquisas relacionadas, mas alertou que o trabalho da Anthropic não havia sido verificado de forma independente. Ele identificou o uso de IA para aprimorar ataques como a maior ameaça atual, e não sistemas de IA que se tornam descontrolados.
As botnets de dispositivos inteligentes já são um problema.
Criminosos sequestrando dispositivos conectados não é novidade. O Mirai e seus descendentes recrutaram roteadores, câmeras de segurança e gravadores de vídeo digital para botnets usadas em ataques de negação de serviço distribuídos (DDoS), sobrecarregando os serviços com tráfego. O BADBOX 2.0 ilustra outra forma de abuso: dispositivos de consumo comprometidos usados para atividades como serviços de proxy residencial, que roteiam o tráfego de outras pessoas através das conexões de internet das vítimas.
Nenhuma das duas demonstra replicação autônoma de IA, mas ambas mostram que dispositivos conectados podem se tornar infraestrutura para criminosos.
O que você pode fazer agora
A resposta prática é reduzir as oportunidades para que qualquer invasor faça mau uso dos seus dispositivos conectados:
- Mantenha os sistemas operacionais, softwares e firmwares atualizados para reduzir a exposição a vulnerabilidades conhecidas.
- Compre de fornecedores confiáveis que ofereçam atualizações de firmware e segurança contínuas. Um dispositivo barato perde a vantagem se você não puder confiar no software ou obter correções de segurança.
- Evite lojas de aplicativos não oficiais que prometem conteúdo de streaming gratuito. O FBI menciona especificamente esses mercados em suas diretrizes BADBOX 2.0 .
- Não desative as proteções para que um aplicativo funcione. Solicitações para desativar o Google Play Protect são um sinal de alerta, assim como... Android Dispositivos sem certificação Play Protect.
- Se você notar algo suspeito, desconecte o dispositivo da sua rede enquanto investiga.
- Coloque os dispositivos inteligentes que não conseguem executar software de segurança em uma rede separada, isolada dos seus computadores e telefones, como uma rede para convidados.
Os golpistas sabem mais sobre você do que você imagina.
Mobile Security Malwarebytes Mobile Security você contra phishing, mensagens de texto fraudulentas, sites maliciosos e muito mais. Com o Scam Guard integrado, que funciona em tempo real e é baseado em inteligência artificial.
