Os chatbots de atendimento ao cliente têm uma única função: fornecer ao utilizador o que ele solicita sem ter de interagir com um ser humano. O novo assistente de suporte com IA da Meta levou esta tarefa um pouco demasiado a sério. Nos últimos meses, os atacantes têm aberto chats de suporte, informando o bot que estavam bloqueados. Instagram contas que não lhes pertenciam, e levando as chaves.
Durante o fim de semana, a Meta lançou uma atualização de emergência após Instagram Contas pertencentes à Casa Branca de Obama (agora inativas), à retalhista de cosméticos Sephora e a um alto funcionário da Força Espacial dos EUA foram invadidas e brevemente desfiguradas com imagens pró-Irão. A investigadora de segurança e ex-funcionária da Meta, Jane Manchun Wong, também foi afetada.
Como funcionava o truque
O ataque foi simples. Os atacantes descobriram onde morava o titular da conta (existem listas online com as cidades de origem dos titulares das contas, ou poderiam simplesmente pesquisar o alvo). Depois, usaram um VPN para corresponder à região geográfica da conta alvo, o que evitou levantar suspeitas. Instagram sistemas de segurança.
Em seguida, iniciaram o processo normal de redefinição de palavra-passe e abriram o chat de apoio ao cliente. Pediram ao bot de IA responsável pelo apoio para alterar o endereço de e-mail da conta, e este fez exatamente isso, enviando um código de uso único diretamente para a caixa de entrada do atacante.
Para tal, o chatbot parece ter sido integrado nos sistemas de gestão de contas da Meta com permissão para efetuar alterações nas contas, mas sem que lhe tenha sido ensinado como verificar se estava a comunicar com o verdadeiro titular da conta. Os especialistas em segurança têm um nome para isso:«confused deputy». O termo existe desde a década de 1980.
Para ser justo com o bot confuso, os atacantes tiveram sucesso mesmo com a segurança reforçada ativada. Aparentemente, criariam vídeos. deepfakes dos seus alvos usando imagens que foram recolhidas de—já adivinhou— Instagram .
A Meta foi vítima do seu próprio ardil de IA
A Meta tem vindo a reduzir o seu quadro de pessoal e a investir fortemente em IA, tendo lançado, no início deste ano, o seu assistente de apoio baseado em IA para ajudar a tratar da recuperação de contas e de outros pedidos de apoio.
O problema é que a IA parece ter recebido a capacidade de realizar ações como alterações de e-mail e redefinições de palavra-passe sem aplicar medidas de segurança suficientes para confirmar primeiro a identidade do utilizador.
Andy Stone, executivo da Meta Communications, afirmou sobre X A empresa informou que o problema foi resolvido e que as contas afetadas estão a ser protegidas. A empresa não divulgou quantas contas foram afetadas.
O que realmente funcionou
Por que razão alguém iria querer piratear um Instagram De qualquer forma, a conta? A vingança pode ser uma motivação, mas, na maioria das vezes, o objetivo é o ganho financeiro. Os cibercriminosos já extorquiram empresas que dependem destas contas para marketing.
Também foram observados atacantes a utilizar esta técnica visando contas "OG" com nomes de utilizador curtos ou muito atraentes. Se se juntou Instagram Se registar um nome de utilizador memorável desde o início, poderá valer milhares de dólares em mercados clandestinos.
O que pode fazer para se proteger?
Um conselho que nunca perde a atualidade continua válido: ative a autenticação multifator (MFA). Segundo o experiente jornalista especializado em cibersegurança Brian Krebs, o ataque falhou nas contas que tinham a MFA ativada, incluindo aquelas que utilizavam códigos SMS.
Isso não torna a MFA perfeita, mas acrescenta uma importante camada de proteção.
Portanto, o conselho prático não tem nada de glamoroso:
- Aberto Instagram Configurações
- Aceda ao seu Centro de Contas Meta
- Ative a autenticação de dois fatores. Uma aplicação de autenticação é melhor do que uma mensagem SMS, mas qualquer uma delas é melhor do que nada.
Faça-o agora, porque isso pode ainda não ter acabado. O TheCyberSecGuru informa que outro ataque está a circular, desta vez utilizando um Android emulador denominado BlueStacks executando uma versão modificada do Instagram Enviar novas mensagens com caracteres ocultos, concebidas para manipular a IA.
Esperem mais confusões por parte dos bots «prestáveis»
Este não será o último ataque contra os chatbots com IA. À medida que mais empresas recorrem à IA para reduzir os custos do apoio ao cliente, a sua superfície de ataque irá aumentar e irão cometer muitos erros ao tentarem encontrar um equilíbrio entre segurança e funcionalidade.
A vulnerabilidade Meta já foi corrigida, mas o conceito do «agente confuso» continua por resolver. E não há nada tão prejudicial como uma IA confusa com acesso total à sua vida digital.
Os burlões não precisam de invadir o seu computador. Basta que clique uma vez.
A Proteção Theft Identity Malwarebytes deteta atividades suspeitas antes que se tornem um problema.
