O modelo mais avançado da Anthropic até à data, o Claude Mythos Preview (também conhecido como Mythos), tem sido descrito como uma «mudança radical» no desempenho da IA, especialmente em tarefas de cibersegurança.
A Anthropic tentou manter o Mythos em segredo até há algumas semanas, quando uma fuga de dados revelou a existência daquilo que a empresa descreveu como a sua inteligência artificial mais poderosa até à data. O modelo é considerado tanto uma poderosa ferramenta defensiva como, potencialmente, uma arma cibernética ofensiva de grande alcance.
Por esse motivo, a empresa está a restringir drasticamente o acesso e a dar a entender que não tenciona lançá-lo amplamente no mercado neste momento. A sua alegada capacidade de identificar de forma autónoma e até mesmo encadear vulnerabilidades de software em grande escala está no cerne tanto do entusiasmo como do perigo.
Imagine uma ferramenta capaz de identificar, de forma autónoma, novas vulnerabilidades em software, sistemas e plataformas, e depois transformá-las em exploits, mesmo que isso exija combiná-las com outras vulnerabilidades.
Nas mãos erradas, isso poderia constituir uma grande ameaça à nossa segurança cibernética. Por isso, a Anthropic limitou o acesso a um pequeno número de organizações em todo o mundo, incluindo grandes empresas tecnológicas e um grupo restrito de organismos governamentais ou de segurança. Segundo consta, a NSA já está a utilizar o Mythos Preview, aparentemente para submeter a testes de resistência e reforçar a segurança de sistemas sensíveis, apesar de o Pentágono ter classificado a Anthropic como um risco para a cadeia de abastecimento.
O Mythos consegue detetar vulnerabilidades em grandes bases de código de forma mais rápida e fiável do que as ferramentas existentes, e pode procurar várias falhas num único sistema e combiná-las em cadeias de exploração de várias etapas para concretizar um ataque (por exemplo, passando de um simples bug web para a apropriação total de um domínio). Um caçador de recompensas levaria meses a encontrar outra vulnerabilidade, quanto mais uma que pudesse ser encadeada com a(s) já descoberta(s). Conseguir isso antes da primeira seria altamente improvável.
Na prática, isso pode significar ataques mais rápidos, violações mais complexas e menos tempo para as empresas corrigirem as vulnerabilidades antes que estas sejam exploradas.
A própria Anthropic salientou que o Mythos pode funcionar com supervisão mínima durante longos períodos, o que significa que poderia lançar campanhas de ataque sistemáticas numa escala que nenhuma equipa humana conseguiria alcançar.
A Anthropic assinalou estes riscos de segurança num documento interno:
- A IA reduz o nível mínimo de competências necessário para operações ofensivas. Atores menos qualificados poderão ter acesso a ferramentas muito eficazes, o que aumentará significativamente o número de ataques avançados.
- Técnicas como o fuzzing, os ataques por dicionário e outros métodos de força bruta tornam-se muito mais eficazes quando aceleradas pela automatização. A iteração assistida por IA pode proporcionar a um atacante muito mais tentativas antes que o ataque seja detetado.
Mas a conclusão mais preocupante foi que, na fase atual do desenvolvimento da IA, o lado ofensivo está a evoluir mais rapidamente, e as equipas de segurança costumam adotar as ferramentas de IA mais tarde do que os seus adversários.
Como sabemos, a IA na cibersegurança funciona nos dois sentidos. Ajuda-nos a defender-nos contra novas ameaças, mas também pode ser utilizada para as criar. É por isso que, nas mãos erradas, o Mythos pode revelar-se um adversário formidável.
O objetivo continua o mesmo, mas o caminho para lá chegar é facilitado por ferramentas como o Mythos. Do ponto de vista do atacante, nada no destino é novo. A novidade é que o Mythos agora automatiza o mapa, o veículo e a maior parte da condução.
Não nos limitamos a comunicar as ameaças - eliminamo-las
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
