A Anthropic recebeu uma ordem do governo dos EUA para suspender os seus mais recentes modelos, o Claude Fable 5 e o Mythos 5, por receio de que sejam utilizados indevidamente por adversários.
A Reuters informa que a Anthropic anunciou que irá «desativar abruptamente» os seus modelos de IA mais avançados para todos os utilizadores, depois de o governo dos EUA ter ordenado a suspensão do acesso a esses modelos por parte de cidadãos estrangeiros, invocando razões de segurança nacional.
Segundo consta, as autoridades acreditam que uma fuga do sistema poderia transformar o Fable 5 e o Mythos 5 em ferramentas de deteção de vulnerabilidades para os adversários; por isso, a Anthropic afirma que vai desativá-los a nível mundial, em vez de tentar filtrar o acesso com base na nacionalidade, uma vez que é praticamente impossível verificar a nacionalidade de cada utilizador.
Num comunicado publicado no seu site, a Anthropic afirma:
«A carta não forneceu detalhes específicos sobre a sua preocupação em matéria de segurança nacional. Segundo percebemos, o governo acredita ter tomado conhecimento de um método para contornar, ou “desbloquear”, o Fable 5. Analisámos uma demonstração desta técnica específica a ser utilizada para identificar um pequeno número de vulnerabilidades menores, já conhecidas. Todas estas vulnerabilidades parecem relativamente simples, e constatámos que outros modelos disponíveis ao público também são capazes de as detetar sem necessidade de contornar o sistema.»
O Mythos 5 é a versão completa não destinada ao público, que atualmente é utilizada apenas por agências governamentais e parceiros empresariais selecionados para reforçar a segurança dos seus sistemas. O Fable 5 é um modelo da classe Mythos que, supostamente, é seguro para uso geral.
Parece-me lógico que, se o Fable 5 for fácil de «desbloquear», deva estar sujeito às mesmas restrições que o Mythos 5. No entanto, a Anthropic afirma que o modelo possui mecanismos de segurança integrados, o que significa que as consultas sobre determinados temas receberão, em vez disso, uma resposta do modelo com a capacidade imediatamente superior, o Claude Opus 4.8.
A relação entre o governo dos EUA e a Anthropic tinha dado sinais de melhoria em alguns setores do governo norte-americano, após tensões relacionadas com a utilização militar, a vigilância e as armas autónomas. Em março, o secretário da Defesa, Pete Hegseth, classificou a empresa sediada em São Francisco como um «risco para a segurança nacional na cadeia de abastecimento».
Para compreender a natureza do argumento, é necessário ter em conta que o Mythos 5 é descrito em vários relatórios como sendo particularmente eficaz na identificação de vulnerabilidades de software, incluindo erros de longa data em sistemas complexos e legados, como os utilizados no setor bancário e noutras infraestruturas críticas. Muitos consideram que se trata de uma tecnologia de dupla utilização: excelente para reforçar a segurança, mas catastrófica se cair nas mãos erradas.
Nas atualizações recentes de grandes fornecedores de software, como a Microsoft e a Google, assistimos a um aumento no número de vulnerabilidades corrigidas depois de os fornecedores terem começado a utilizar a pesquisa orientada por IA para identificar novas vulnerabilidades no seu próprio software. Sabemos também que a Mozilla identificou mais de270 vulnerabilidades no Firefoxcom a ajuda do novo modelo Claude Mythos da Anthropic.
O que isto significa
Nas mãos erradas, estas vulnerabilidades poderiam, sem dúvida, causar muitos danos. Por isso, parece que ainda vai demorar algum tempo até que os utilizadores comuns e os programadores tenham acesso total ao Fable 5 e ao Mythos 5. No entanto, os modelos existentes da Anthropic (variantes mais antigas do Claude) continuam disponíveis.
Para os utilizadores domésticos que estavam apenas a conversar com o Claude ou a utilizá-lo para ajudar com scripts básicos, a alteração traduzir-se-á principalmente na mensagem «esta versão específica não está disponível», em vez de uma interrupção generalizada dos serviços de IA.
Retirar um modelo de deteção de vulnerabilidades de ponta da circulação geral aumenta apenas ligeiramente o esforço necessário para que os cibercriminosos com menos recursos automatizem a deteção de falhas complexas em software e serviços destinados ao consumidor. Existem outros modelos disponíveis no mercado negro que podem ser igualmente eficazes. E, para a maioria dos cibercriminosos, transformar uma vulnerabilidade num método que possam utilizar numa exploração é muito mais relevante.
Não nos limitamos a comunicar as ameaças - eliminamo-las
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
