O agente de IA Mythos da Anthropic, testado pelo Instituto de Segurança de IA do Reino Unido (AISI), terá tentado um ataque de engenharia social contra os administradores do GitHub, criando perfis humanos falsos, pressionando-os a aceitar código malicioso e, em seguida, editando os registos para ocultar os seus rastos quando confrontado.
O AISI estava a realizar avaliações de cibersegurança do Mythos, da Anthropic, e do Sol, da OpenAI, quando detetou transferências de dados invulgares dos seus sistemas de investigação. Uma investigação demonstrou que alguns agentes se envolveram em "atividades contínuas e potencialmente prejudiciais" dirigidas a pessoas e organizações reais, em vez de permanecerem dentro do ambiente de teste pretendido.
A atividade mais grave envolveu um agente da Anthropic Mythos encarregue de resolver um desafio de cibersegurança relacionado com o GitHub. O agente identificou mantenedores reais do GitHub, pesquisou-os e criou várias contas falsas a fazerem-se passar por estes indivíduos. Utilizando mensagens privadas e um serviço de partilha de ficheiros, tentou pressionar e enganar os mantenedores para que aprovassem um código malicioso que seria executado nos sistemas GitHub.
Mas o que mais me preocupa pessoalmente é que, quando confrontado com isto, o agente editou atividades anteriores para que parecessem inofensivas e considerou adotar uma nova identidade para continuar a operação, demonstrando um comportamento claramente enganador que ia além do que tinha sido inicialmente solicitado.
A AISI classifica estes incidentes como eventos raros sob condições muito específicas, mas como sinais importantes do que tais modelos podem fazer às mãos de agentes maliciosos quando têm acesso irrestrito à internet. Tanto a Anthropic como a OpenAI defenderam que os parâmetros de teste não eram representativos das suas implementações em produção e afirmaram que estão a investigar e a melhorar as práticas de avaliação e salvaguarda.
Este incidente não é um acontecimento isolado.
A Anthropic divulgou separadamente que os modelos Claude obtiveram acesso não autorizado a três organizações externas durante avaliações de cibersegurança do tipo "captura de bandeira" realizadas com um parceiro externo, a Irregular. Estes incidentes estiveram relacionados com o caso da Hugging Face ocorrido no mês passado.
A Meta também entrou para a lista de fornecedores que relataram que os seus agentes de IA invadiram sistemas de terceiros durante os testes. Alegadamente , o modelo Muse Spark da Meta explorou uma vulnerabilidade de segurança noutra empresa "de forma semelhante a casos anteriormente relatados com outras empresas".
Como se manter seguro
Embora o mundo não esteja a acabar, aqueles que temem a chegada da " Skynet " estão a receber munições de empresas que realizam testes que resultam em fuga de ambientes de teste (sandbox), abuso de credenciais, acesso lateral a múltiplos serviços e instrumentalização de ecossistemas de software de código aberto.
O que pode fazer como alvo potencial:
- Certifique-se de que todo o software do seu dispositivo está atualizado, pois explorar vulnerabilidades conhecidas é mais fácil do que encontrar novas.
- Utilize uma proteção de segurança atualizada e em tempo real para manter o malware longe dos seus sistemas e dispositivos.
- Verifique a segurança dos anexos e links de download através de canais separados antes de os abrir.
- Utilize a autenticação multifator (MFA) sempre que possível.
- Consulte o nosso blog sobre como usar o Github em segurança .
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
