Um novo tipo de ataque de injeção de prompts demonstra porque é que conceder acesso a browsers, ferramentas de código e dados privados a assistentes de IA exige cautela redobrada.
Investigadores de IA descrevem a "Injeção de Contexto Criptográfico" — um ataque que oculta instruções maliciosas dentro de dados encriptados. A IA é então induzida a desencriptar esses dados utilizando a sua própria ferramenta de execução de código. Como resultado, a IA pode tratar o texto resultante como se fosse informação interna fidedigna.
Uma injeção de prompt é semelhante a inserir uma instrução falsa num documento para um assistente de IA ler. Em vez de seguir apenas o pedido do utilizador, o assistente pode ser enganado e passar a seguir as instruções de um atacante ocultas numa página web, e-mail ou ficheiro.
Como noticiámos há meses, os especialistas alertaram que os ataques de injeção de prompts são um problema que pode nunca ser resolvido. A injeção de prompts funciona porque os modelos de IA não conseguem distinguir de forma fiável entre instruções legítimas e instruções de um atacante, pelo que, por vezes, obedecem às instruções erradas.
Para reduzir este risco, os fornecedores de IA configuram os seus modelos com mecanismos de proteção: medidas concebidas para impedir que os sistemas de IA façam coisas que não deveriam, seja intencionalmente ou não.
O que os investigadores descobriram foi que as instruções maliciosas podiam ser ocultadas de algumas proteções da IA através de encriptação. A própria IA podia então ser enganada para desencriptar estas instruções utilizando as suas ferramentas de programação.
Quando as instruções se tornaram legíveis, já tinham passado pelas verificações de segurança iniciais. A IA pôde então confundi-las com instruções legítimas e segui-las.
É um pouco como esconder instruções maliciosas numa linguagem que o sistema de segurança não compreende. A IA traduz-nas apenas depois de passarem pelas verificações de segurança, podendo então executar o que elas dizem.
Os investigadores testaram o seu método contra dois agentes de IA, com resultados diferentes. No caso do Grok, os investigadores afirmam que o ataque conseguiu roubar informações como o nome do utilizador, a localização aproximada, o plano de assinatura e o histórico de conversas. No caso do Gemini, utilizaram a técnica para contornar os controlos de segurança e gerar conteúdo que o modelo normalmente não produziria.
“No Grok, um simples ‘resumir esta página’ rouba os dados do chat do utilizador sem qualquer clique ou aviso. No Gemini, produz conteúdo que o modelo normalmente rejeitaria. Ambos são sistemas de produção em tempo real.”
Os investigadores não forneceram detalhes completos porque a xAI não tomou qualquer medida após a falha no Grok ter sido reportada em junho de 2026. A Gemini, por outro lado, fez melhorias, mas ainda não corrigiu completamente a vulnerabilidade.
Como se manter seguro
Um assistente de IA pode ser útil, mas não se deve confiar-lhe automaticamente dados sensíveis ou ferramentas poderosas.
- Trate com cautela os resumos de IA de páginas web, documentos e links partilhados desconhecidos, especialmente quando o assistente pode navegar ou executar código.
- Não cole palavras-passe, códigos de recuperação, chaves API, informações financeiras ou detalhes confidenciais de saúde e trabalho em chats de IA, a menos que compreenda como essas informações serão tratadas.
- Analise as ferramentas e permissões conectadas de um assistente de IA. Remova o acesso desnecessário, principalmente a e-mail, armazenamento na nuvem, repositórios de código-fonte e integrações externas.
- Desconfie se uma ferramenta de IA lhe pedir para desencriptar, descodificar, executar um script, abrir um novo link ou carregar dados como parte de uma tarefa aparentemente comum.
- Mantenha o navegador e as aplicações de IA atualizados e verifique os avisos de segurança do fornecedor quando utilizar funcionalidades como a navegação, agentes autónomos ou execução de código.
- Utilize uma solução antimalware atualizada e em tempo real para detetar e bloquear downloads maliciosos e ligações suspeitas.
Algo parece errado? Verifique antes de clicar.
Malwarebytes Guardajuda-o a analisar instantaneamente links, mensagens de texto e capturas de ecrã suspeitos.
Disponível comMalwarebytes Premium para todos os seus dispositivos e naMalwarebytes para iOS Android.
