O modelo mais avançado da Anthropic até o momento, o Claude Mythos Preview (também conhecido como Mythos), tem sido descrito como uma “mudança radical” no desempenho da IA, especialmente em tarefas de segurança cibernética.
A Anthropic tentou manter o Mythos em segredo até algumas semanas atrás, quando um vazamento de dados revelou a existência do que a empresa descreveu como sua inteligência artificial mais poderosa até o momento. O modelo é visto tanto como uma poderosa ferramenta defensiva quanto, potencialmente, como uma arma cibernética ofensiva de grande porte.
Por esse motivo, a empresa está restringindo drasticamente o acesso e sinalizando que não planeja lançá-lo amplamente no mercado neste momento. Sua suposta capacidade de identificar de forma autônoma e até mesmo encadear vulnerabilidades de software em grande escala está no cerne tanto do entusiasmo quanto do perigo.
Imagine uma ferramenta capaz de identificar, de forma autônoma, novas vulnerabilidades em softwares, sistemas e plataformas e, em seguida, transformá-las em exploits, mesmo que isso exija combiná-las com outras vulnerabilidades.
Nas mãos erradas, isso poderia representar uma grande ameaça à nossa segurança cibernética. Por isso, a Anthropic limitou o acesso a um pequeno número de organizações em todo o mundo, incluindo grandes empresas de tecnologia e um grupo seleto de órgãos governamentais ou de segurança. A NSA já estaria utilizando o Mythos Preview, aparentemente para realizar testes de estresse e fortalecer sistemas sensíveis, apesar de o Pentágono ter classificado a Anthropic como um risco para a cadeia de suprimentos.
O Mythos é capaz de detectar vulnerabilidades em grandes bases de código de forma mais rápida e confiável do que as ferramentas existentes, além de poder identificar várias falhas em um único sistema e combiná-las em cadeias de exploração de múltiplas etapas para concluir um ataque (por exemplo, passando de um simples bug na web para a tomada de controle total de um domínio). Levaria meses para um caçador de bugs encontrar outra vulnerabilidade, muito menos uma que pudesse ser encadeada com as já descobertas. Conseguir isso antes da primeira seria altamente improvável.
Na prática, isso pode significar ataques mais rápidos, violações mais complexas e menos tempo para as empresas corrigirem suas vulnerabilidades antes que elas sejam exploradas.
A própria Anthropic destacou que o Mythos pode operar com supervisão mínima por longos períodos, o que significa que ele poderia realizar campanhas de ataque sistemáticas em uma escala que nenhuma equipe humana seria capaz de alcançar.
A Anthropic destacou esses riscos de segurança em um documento interno:
- A IA reduz o nível mínimo de habilidade necessário para operações ofensivas. Atores menos qualificados podem ter acesso a ferramentas muito eficazes, aumentando significativamente o número de ataques avançados.
- Técnicas como fuzzing, ataques de dicionário e outros métodos de força bruta tornam-se muito mais eficazes quando aceleradas pela automação. A iteração assistida por IA pode proporcionar a um invasor muito mais tentativas antes que o ataque seja detectado.
Mas a conclusão mais preocupante foi que o lado ofensivo está evoluindo mais rapidamente na fase atual do desenvolvimento da IA, e as equipes de segurança geralmente adotam as ferramentas de IA mais tarde do que seus adversários.
Como sabemos, a IA na segurança cibernética tem dois lados. Ela nos ajuda a nos defender contra novas ameaças, mas também pode ser usada para criá-las. É por isso que, nas mãos erradas, o Mythos pode se tornar um adversário formidável.
O objetivo continua o mesmo, mas o caminho para alcançá-lo é pavimentado por ferramentas como o Mythos. Do ponto de vista do invasor, nada no destino é novidade. A novidade é que o Mythos agora automatiza o mapa, o veículo e a maior parte da condução.
Não nos limitamos a informar sobre as ameaças, nós as removemos
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
