Os chatbots de atendimento ao cliente têm uma única função: fornecer ao usuário o que ele solicita sem precisar interagir com um humano. O novo assistente de suporte com IA da Meta levou essa tarefa um pouco a sério demais. Nos últimos meses, invasores têm aberto chats de suporte, informando ao bot que estavam bloqueados. Instagram contas que não lhes pertenciam, e levando as chaves embora.
Durante o fim de semana, a Meta lançou uma atualização de emergência após Instagram Contas pertencentes à Casa Branca de Obama (agora inativas), à varejista de cosméticos Sephora e a um alto funcionário da Força Espacial dos EUA foram invadidas e brevemente desfiguradas com imagens pró-Irã. A pesquisadora de segurança e ex-funcionária da Meta, Jane Manchun Wong, também foi afetada.
Como o truque funcionava
O ataque foi simples. Os atacantes descobriram onde o dono da conta morava (existem listas online com as cidades de origem dos donos de contas, ou eles poderiam simplesmente pesquisar o alvo). Depois, eles usaram um VPN para corresponder à região geográfica da conta alvo, o que evitou levantar suspeitas. Instagram sistemas de segurança.
Em seguida, eles iniciaram um processo normal de redefinição de senha e acessaram o chat de suporte. Pediram ao bot de IA responsável pelo suporte para alterar o endereço de e-mail da conta, e ele fez exatamente isso, enviando um código de uso único diretamente para a caixa de entrada do invasor.
Para isso, o chatbot parece ter sido integrado aos sistemas de gerenciamento de contas da Meta com permissão para realizar alterações nas contas, mas sem ter sido programado para verificar se estava se comunicando com o verdadeiro titular da conta. Os especialistas em segurança têm um nome para isso:“confused deputy”. O termo existe desde a década de 1980.
Para ser justo com o bot confuso, os atacantes tiveram sucesso mesmo com a segurança reforçada ativada. Aparentemente, eles criariam vídeos. deepfakes de seus alvos usando imagens que foram coletadas de—você adivinhou— Instagram .
A Meta foi vítima do próprio remédio que preparou com sua IA
A Meta vem reduzindo seu quadro de funcionários e investindo pesadamente em IA, e lançou, no início deste ano, seu assistente de suporte baseado em IA para ajudar a lidar com a recuperação de contas e outras solicitações de suporte.
O problema é que a IA parece ter recebido a capacidade de realizar ações como alterações de e-mail e redefinições de senha sem aplicar medidas de segurança suficientes para confirmar primeiro a identidade do usuário.
Andy Stone, executivo da Meta Communications, disse sobre X A empresa informou que o problema foi resolvido e que as contas afetadas estão sendo protegidas. A empresa não divulgou quantas contas foram afetadas.
O que realmente funcionou
Por que alguém iria querer hackear um Instagram De qualquer forma, a conta? A vingança pode ser uma motivação, mas, na maioria das vezes, o objetivo é o ganho financeiro. Criminosos cibernéticos já extorquiram empresas que dependem dessas contas para marketing.
Também foram observados atacantes usando essa técnica visando contas "OG" com nomes de usuário curtos ou muito atraentes. Se você se juntou Instagram Se você registrar um nome de usuário memorável desde o início, ele pode valer milhares de dólares em mercados clandestinos.
O que você pode fazer para se proteger?
Um conselho que nunca perde a atualidade continua válido: ative a autenticação multifatorial (MFA). De acordo com o experiente repórter de segurança cibernética Brian Krebs, o ataque não teve sucesso contra contas que tinham a MFA ativada, incluindo aquelas que utilizavam códigos por SMS.
Isso não torna a MFA perfeita, mas acrescenta uma importante camada de proteção.
Portanto, o conselho prático não tem nada de glamoroso:
- Abrir Instagram Configurações
- Acesse a sua Central de Contas do Meta
- Ative a autenticação de dois fatores. Um aplicativo de autenticação é melhor do que SMS, mas qualquer uma das opções é melhor do que nada.
Faça isso agora, porque isso pode não ter acabado ainda. O TheCyberSecGuru relata que outro ataque está circulando, desta vez usando um Android emulador chamado BlueStacks executando uma versão modificada de Instagram Enviar novas mensagens com caracteres ocultos, concebidas para manipular a IA.
Espere mais confusões por parte dos bots “prestativos”
Este não será o último ataque contra chatbots de IA. À medida que mais empresas utilizam a IA para reduzir os custos com atendimento ao cliente, sua vulnerabilidade aumentará, e elas cometerão muitos erros ao tentar equilibrar segurança e funcionalidade.
A vulnerabilidade do Meta já foi corrigida, mas o conceito do “confused deputy” ainda não. E não há nada tão prejudicial quanto uma IA confusa com acesso total à sua vida digital.
Os golpistas não precisam invadir seu computador. Basta você clicar uma vez.
A Proteção Theft Identity Malwarebytes detecta atividades suspeitas antes que se tornem um problema.
