Os chatbots de atendimento ao cliente têm uma única função: fornecer ao usuário o que ele está pedindo sem precisar recorrer a um ser humano. O novo assistente de suporte com IA da Meta levou essa missão um pouco a sério demais. Nos últimos meses, invasores têm aberto conversas de suporte, dizendo ao bot que estavam sem acesso a Instagram que não lhes pertenciam e acabaram levando as credenciais.
No fim de semana, a Meta lançou uma correção de emergência depois que Instagram pertencentes à Casa Branca de Obama (agora inativas), à rede de cosméticos Sephora e a um alto funcionário da Força Espacial dos EUA foram invadidas e temporariamente vandalizadas com imagens pró-iranianas. A pesquisadora de segurança e ex-funcionária da Meta Jane Manchun Wong também foi afetada.
Como o truque funcionava
O ataque foi simples. Os invasores descobriram onde o titular da conta morava (existem listas online com as cidades de origem dos titulares de contas, ou eles poderiam simplesmente pesquisar o alvo). Em seguida, utilizaram uma VPN simular a localização geográfica da conta alvo, o que evitou que os sistemas de segurança Instagramdetectassem qualquer irregularidade.
Em seguida, eles iniciaram um processo normal de redefinição de senha e acessaram o chat de suporte. Pediram ao bot de IA responsável pelo suporte para alterar o endereço de e-mail da conta, e ele fez exatamente isso, enviando um código de uso único diretamente para a caixa de entrada do invasor.
Para isso, o chatbot parece ter sido integrado aos sistemas de gerenciamento de contas da Meta com permissão para realizar alterações nas contas, mas sem ter sido programado para verificar se estava se comunicando com o verdadeiro titular da conta. Os especialistas em segurança têm um nome para isso:“confused deputy”. O termo existe desde a década de 1980.
Para ser justo com o bot confuso, os invasores conseguiam atingir seu objetivo mesmo quando o sistema de segurança reforçado era acionado. Aparentemente, eles criavam vídeos deepfakes seus alvos usando imagens obtidas — você adivinhou — doInstagram.
A Meta foi vítima do próprio remédio que preparou com sua IA
A Meta vem reduzindo seu quadro de funcionários e investindo pesadamente em IA, e lançou, no início deste ano, seu assistente de suporte baseado em IA para ajudar a lidar com a recuperação de contas e outras solicitações de suporte.
O problema é que a IA parece ter recebido a capacidade de realizar ações como alterações de e-mail e redefinições de senha sem aplicar medidas de segurança suficientes para confirmar primeiro a identidade do usuário.
Andy Stone, executivo de comunicações da Meta, afirmou no X o problema foi resolvido e que as contas afetadas estavam sendo protegidas. A empresa não divulgou quantas contas foram afetadas.
O que realmente funcionou
Afinal, por que alguém iria querer invadir uma Instagram ? A vingança pode ser um motivo, mas, na maioria das vezes, o objetivo é o lucro financeiro. Os invasores já chantagearam empresas que dependem dessas contas para fins de marketing.
Também foram identificados invasores que utilizam essa técnica para atacar contas “OG” com nomes de usuário curtos ou muito cobiçados. Se você se cadastrou Instagram e registrou um nome de usuário fácil de lembrar, ele pode valer milhares de dólares nos mercados clandestinos.
O que você pode fazer para se proteger?
Um conselho que nunca perde a atualidade continua válido: ative a autenticação multifatorial (MFA). De acordo com o experiente repórter de segurança cibernética Brian Krebs, o ataque não teve sucesso contra contas que tinham a MFA ativada, incluindo aquelas que utilizavam códigos por SMS.
Isso não torna a MFA perfeita, mas acrescenta uma importante camada de proteção.
Portanto, o conselho prático não tem nada de glamoroso:
- Abra as configurações Instagram
- Acesse a sua Central de Contas do Meta
- Ative a autenticação de dois fatores. Um aplicativo de autenticação é melhor do que SMS, mas qualquer uma das opções é melhor do que nada.
Faça isso agora, porque isso pode ainda não ter acabado. O site TheCyberSecGuru informa que está circulando outro ataque, desta vez utilizando um Android chamado BlueStacks que executa uma versão modificada do Instagram enviar novas solicitações com caracteres ocultos, criadas para manipular a IA.
Espere mais confusões por parte dos bots “prestativos”
Este não será o último ataque contra chatbots de IA. À medida que mais empresas utilizam a IA para reduzir os custos com atendimento ao cliente, sua vulnerabilidade aumentará, e elas cometerão muitos erros ao tentar equilibrar segurança e funcionalidade.
A vulnerabilidade do Meta já foi corrigida, mas o conceito do “confused deputy” ainda não. E não há nada tão prejudicial quanto uma IA confusa com acesso total à sua vida digital.
Os golpistas não precisam invadir seu computador. Basta você clicar uma vez.
Malwarebytes Identity Theft detecta atividades suspeitas antes que se tornem um problema.
