A Anthropic recebeu uma ordem do governo dos EUA para suspender seus mais novos modelos, o Claude Fable 5 e o Mythos 5, por receio de que sejam utilizados indevidamente por adversários.
A Reuters informa que a Anthropic anunciou que irá “desativar abruptamente” seus modelos de IA mais avançados para todos os usuários, depois que o governo dos EUA ordenou que a empresa suspendesse o acesso a esses modelos por parte de cidadãos estrangeiros, alegando questões de segurança nacional.
Autoridades acreditam que uma fuga do sistema poderia transformar o Fable 5 e o Mythos 5 em ferramentas de detecção de vulnerabilidades para adversários; por isso, a Anthropic afirma que está desativando esses recursos em todo o mundo, em vez de tentar filtrar o acesso com base na nacionalidade, já que é praticamente impossível verificar a nacionalidade de cada usuário.
Em um comunicado publicado em seu site, a Anthropic afirma:
“A carta não forneceu detalhes específicos sobre a preocupação com a segurança nacional. Entendemos que o governo acredita ter tomado conhecimento de um método para contornar, ou “desbloquear”, o Fable 5. Analisamos uma demonstração dessa técnica específica sendo usada para identificar um pequeno número de vulnerabilidades menores, já conhecidas. Todas essas vulnerabilidades parecem relativamente simples, e constatamos que outros modelos disponíveis publicamente também são capazes de detectá-las sem a necessidade de contornar o sistema.”
O Mythos 5 é a versão completa não disponível ao público, atualmente utilizada apenas por órgãos governamentais e parceiros corporativos selecionados para reforçar a segurança de seus sistemas. O Fable 5 é um modelo da classe Mythos que, supostamente, seria seguro para uso geral.
Para mim, faz sentido que, se o Fable 5 é fácil de desbloquear, ele deva estar sujeito às mesmas restrições que o Mythos 5. No entanto, a Anthropic afirma que ele possui proteções integradas que fazem com que as consultas sobre determinados assuntos recebam, em vez disso, uma resposta do modelo com a segunda maior capacidade, o Claude Opus 4.8.
A relação entre o governo dos EUA e a Anthropic vinha dando sinais de melhoria em alguns setores do governo, após tensões relacionadas ao uso militar, à vigilância e às armas autônomas. Em março, o secretário de Defesa, Pete Hegseth, classificou a empresa sediada em São Francisco como um “risco à segurança nacional na cadeia de suprimentos”.
Para compreender a essência do argumento, é necessário entender que o Mythos 5 é descrito em vários relatórios como particularmente eficaz na identificação de vulnerabilidades de software, incluindo bugs de longa data em sistemas complexos e legados, como os utilizados no setor bancário e em outras infraestruturas críticas. Muitos consideram que se trata de uma tecnologia de dupla utilização: excelente para o fortalecimento da defesa, mas catastrófica nas mãos erradas.
Em atualizações recentes de grandes fornecedores de software, como a Microsoft e o Google, observamos um aumento no número de vulnerabilidades corrigidas depois que esses fornecedores passaram a utilizar a pesquisa orientada por IA para identificar novas vulnerabilidades em seus próprios softwares. Sabemos também que a Mozilla identificou mais de270 vulnerabilidades no Firefoxcom a ajuda do novo modelo Claude Mythos, da Anthropic.
O que isso significa
Nas mãos erradas, essas vulnerabilidades poderiam, sem dúvida, causar muitos danos. Portanto, parece que ainda vai demorar um pouco até que consumidores comuns e desenvolvedores tenham acesso total ao Fable 5 e ao Mythos 5. No entanto, os modelos existentes da Anthropic (versões mais antigas do Claude) continuam disponíveis.
Para os usuários domésticos que estavam apenas conversando com o Claude ou usando-o para ajudar em tarefas básicas de programação, a mudança se traduzirá principalmente na mensagem “esta versão específica não está disponível”, em vez de uma interrupção generalizada dos serviços de IA.
Retirar um modelo avançado de detecção de vulnerabilidades de circulação ampla aumenta apenas ligeiramente o esforço necessário para que cibercriminosos com menos recursos automatizem a descoberta de falhas complexas em softwares e serviços voltados para o consumidor. Existem outros modelos disponíveis no mercado negro que podem ser igualmente eficazes. E, para a maioria dos cibercriminosos, transformar uma vulnerabilidade em um método que possam utilizar em um ataque é muito mais relevante.
Não nos limitamos a informar sobre as ameaças, nós as removemos
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
