Os chatbots de atendimento ao cliente têm uma única função: fornecer ao utilizador o que este solicita sem envolver um operador humano. O novo assistente de suporte com IA da Meta levou essa missão um pouco a sério demais. Nos últimos meses, os atacantes têm aberto conversas de suporte, dizendo ao bot que ficaram sem acesso a Instagram que não lhes pertenciam e acabaram por ficar com as credenciais de acesso.
No fim de semana, a Meta lançou uma atualização de emergência depois de Instagram pertencentes à Casa Branca de Obama (agora inativas), à marca de beleza Sephora e a um alto responsável da Força Espacial dos EUA terem sido invadidas e, por breves instantes, vandalizadas com imagens pró-iranianas. A investigadora de segurança e ex-funcionária da Meta, Jane Manchun Wong, também foi afetada.
Como funcionava o truque
O ataque foi simples. Os atacantes descobriram onde o titular da conta residia (existem listas online com as cidades de residência dos titulares de contas, ou podem simplesmente pesquisar o alvo). Em seguida, utilizaram uma VPN simular a localização geográfica da conta alvo, o que evitou que os sistemas de segurança Instagramdetectassem qualquer anomalia.
Em seguida, iniciaram o processo normal de redefinição de palavra-passe e abriram o chat de apoio ao cliente. Pediram ao bot de IA responsável pelo apoio para alterar o endereço de e-mail da conta, e este fez exatamente isso, enviando um código de uso único diretamente para a caixa de entrada do atacante.
Para tal, o chatbot parece ter sido integrado nos sistemas de gestão de contas da Meta com permissão para efetuar alterações nas contas, mas sem que lhe tenha sido ensinado como verificar se estava a comunicar com o verdadeiro titular da conta. Os especialistas em segurança têm um nome para isso:«confused deputy». O termo existe desde a década de 1980.
Para ser justo com o bot confuso, os atacantes conseguiam o seu objetivo mesmo quando o sistema de segurança reforçado era ativado. Aparentemente, criavam vídeos deepfakes seus alvos utilizando imagens recolhidas — adivinharam — doInstagram.
A Meta foi vítima do seu próprio ardil de IA
A Meta tem vindo a reduzir o seu quadro de pessoal e a investir fortemente em IA, tendo lançado, no início deste ano, o seu assistente de apoio baseado em IA para ajudar a tratar da recuperação de contas e de outros pedidos de apoio.
O problema é que a IA parece ter recebido a capacidade de realizar ações como alterações de e-mail e redefinições de palavra-passe sem aplicar medidas de segurança suficientes para confirmar primeiro a identidade do utilizador.
Andy Stone, executivo de comunicações da Meta, afirmou no X o problema foi resolvido e que as contas afetadas estavam a ser protegidas. A empresa não revelou quantas contas foram afetadas.
O que realmente funcionou
Afinal, por que razão alguém iria querer invadir uma Instagram ? A vingança pode ser um motivo, mas, na maioria das vezes, o objetivo é o lucro financeiro. Os invasores têm chantageado empresas que dependem dessas contas para fins de marketing.
Também foram identificados atacantes que utilizam esta técnica para visar contas «OG» com nomes de utilizador curtos ou muito cobiçados. Se se registou Instagram e criou um nome de utilizador fácil de memorizar, este pode valer milhares de dólares nos mercados negros.
O que pode fazer para se proteger?
Um conselho que nunca perde a atualidade continua válido: ative a autenticação multifator (MFA). Segundo o experiente jornalista especializado em cibersegurança Brian Krebs, o ataque falhou nas contas que tinham a MFA ativada, incluindo aquelas que utilizavam códigos SMS.
Isso não torna a MFA perfeita, mas acrescenta uma importante camada de proteção.
Portanto, o conselho prático não tem nada de glamoroso:
- Abre as definições Instagram
- Aceda ao seu Centro de Contas Meta
- Ative a autenticação de dois fatores. Uma aplicação de autenticação é melhor do que uma mensagem SMS, mas qualquer uma delas é melhor do que nada.
Faça isso agora, porque isto pode ainda não ter acabado. O TheCyberSecGuru informa que está a circular outro ataque, desta vez utilizando um Android chamado BlueStacks que executa uma versão modificada do Instagram enviar novos avisos com caracteres ocultos concebidos para manipular a IA.
Esperem mais confusões por parte dos bots «prestáveis»
Este não será o último ataque contra os chatbots com IA. À medida que mais empresas recorrem à IA para reduzir os custos do apoio ao cliente, a sua superfície de ataque irá aumentar e irão cometer muitos erros ao tentarem encontrar um equilíbrio entre segurança e funcionalidade.
A vulnerabilidade Meta já foi corrigida, mas o conceito do «agente confuso» continua por resolver. E não há nada tão prejudicial como uma IA confusa com acesso total à sua vida digital.
Os burlões não precisam de invadir o seu computador. Basta que clique uma vez.
Malwarebytes Identity Theft deteta atividades suspeitas antes que se tornem um problema.
