Le gouvernement américain a ordonné à Anthropic de retirer du marché ses nouveaux modèles Claude Fable 5 et Mythos 5 par crainte d'abus de la part d'adversaires.
Reuters rapporte qu'Anthropic a déclaré qu'elle allait « désactiver brutalement » ses modèles d'IA les plus avancés pour tous les utilisateurs après que le gouvernement américain lui a ordonné de suspendre l'accès à ces modèles pour les ressortissants étrangers, invoquant des préoccupations de sécurité nationale.
Selon certaines sources, les autorités estiment qu'un jailbreak pourrait transformer Fable 5 et Mythos 5 en outils de découverte de vulnérabilités pour les adversaires. C'est pourquoi Anthropic affirme les désactiver dans le monde entier plutôt que d'essayer de filtrer l'accès en fonction de la nationalité, car il est pratiquement impossible de vérifier la nationalité de chaque utilisateur.
Dans un communiqué publié sur son site web, Anthropic déclare :
« La lettre ne précisait pas la nature de ses préoccupations en matière de sécurité nationale. Nous comprenons que le gouvernement pense avoir découvert une méthode permettant de contourner, ou de « jailbreaker », Fable 5. Nous avons examiné une démonstration de cette technique utilisée pour identifier un petit nombre de vulnérabilités mineures déjà connues. Ces vulnérabilités semblent toutes relativement simples, et nous avons constaté que d'autres modèles disponibles publiquement sont également capables de les détecter sans nécessiter de contournement. »
Mythos 5 est la version complète non publique, actuellement utilisée uniquement par les agences gouvernementales et certains partenaires commerciaux pour renforcer la sécurité de leurs systèmes. Fable 5 est un modèle de classe Mythos censé être sûr pour un usage général.
Il me semble logique que si Fable 5 est facile à jailbreaker, il soit soumis aux mêmes restrictions que Mythos 5. Cependant, Anthropic affirme avoir intégré des mécanismes de sécurité qui font que les requêtes sur certains sujets recevront une réponse du modèle le plus performant suivant, Claude Opus 4.8.
Les relations entre le gouvernement américain et Anthropic semblaient s'apaiser au sein de certaines instances gouvernementales après des tensions liées à l'utilisation militaire, à la surveillance et aux armes autonomes . En mars, le secrétaire à la Défense, Pete Hegseth, a désigné l'entreprise basée à San Francisco comme un « risque pour la sécurité nationale en matière de chaîne d'approvisionnement ».
Pour comprendre la nature de cet argument, il est essentiel de savoir que Mythos 5 est décrit dans de nombreux rapports comme particulièrement efficace pour identifier les vulnérabilités logicielles, notamment les bogues persistants dans les systèmes complexes et anciens, tels que ceux utilisés dans le secteur bancaire et d'autres infrastructures critiques. Beaucoup considèrent son utilisation comme ambivalente : excellent pour renforcer la sécurité, mais catastrophique entre de mauvaises mains.
Suite aux récentes mises à jour des principaux éditeurs de logiciels comme Microsoft et Google , le nombre de failles de sécurité corrigées a augmenté après que ces éditeurs ont commencé à utiliser la recherche guidée par l'IA pour identifier de nouvelles vulnérabilités dans leurs propres logiciels. On sait également que Mozilla a découvert plus de 270 vulnérabilités dans Firefox grâce au nouveau modèle Claude Mythos d'Anthropic.
Qu'est-ce que cela signifie ?
Entre de mauvaises mains, ces vulnérabilités pourraient causer des dégâts considérables. Il faudra donc probablement attendre un certain temps avant que les utilisateurs et les développeurs aient pleinement accès à Fable 5 et Mythos 5. Cependant, les modèles Anthropic existants (les anciennes versions de Claude) restent disponibles.
Pour les utilisateurs à domicile qui discutaient simplement avec Claude ou l'utilisaient pour des tâches de script basiques, le changement se traduira principalement par un message « cette version spécifique n'est pas disponible » plutôt que par une panne générale de l'IA.
Retirer de la circulation un modèle sophistiqué de détection de vulnérabilités n'augmente que très légèrement l'effort nécessaire aux cybercriminels aux ressources limitées pour automatiser la découverte de failles complexes dans les logiciels et services destinés aux consommateurs. D'autres modèles, disponibles sur le marché noir, peuvent s'avérer tout aussi efficaces. Et pour la plupart des cybercriminels, transformer une vulnérabilité en une méthode exploitable est bien plus pertinent.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais dépasser le stade de la simple mention dans les médias. Protégez vos appareils des menaces en téléchargeant Malwarebytes dès aujourd'hui .
