Anthropic heeft van de Amerikaanse overheid het bevel gekregen om zijn nieuwste modellen, Claude Fable 5 en Mythos 5, buiten gebruik te stellen uit vrees voor misbruik door tegenstanders.
Reuters meldt dat Anthropic heeft aangegeven zijn meest geavanceerde AI-modellen voor alle gebruikers „plotseling uit te schakelen“, nadat de Amerikaanse regering het bedrijf had opgedragen de toegang tot de modellen voor buitenlanders op te schorten, onder verwijzing naar bezorgdheid over de nationale veiligheid.
Volgens berichten zijn de autoriteiten van mening dat een jailbreak ervoor zou kunnen zorgen dat Fable 5 en Mythos 5 door tegenstanders worden gebruikt als tools om kwetsbaarheden op te sporen. Daarom zegt Anthropic dat het deze diensten wereldwijd uitschakelt in plaats van te proberen de toegang op basis van nationaliteit te filteren, aangezien het vrijwel onmogelijk is om de nationaliteit van elke gebruiker te verifiëren.
In een verklaring op haar website zegt Anthropic:
“In de brief werden geen specifieke details vermeld over de bezorgdheid op het gebied van de nationale veiligheid. Wij hebben begrepen dat de regering van mening is dat zij kennis heeft genomen van een methode om Fable 5 te omzeilen, oftewel te ‘jailbreaken’. Wij hebben een demonstratie bekeken van deze specifieke techniek, die werd gebruikt om een klein aantal reeds bekende, minder ernstige kwetsbaarheden op te sporen. Deze kwetsbaarheden lijken allemaal relatief eenvoudig, en wij hebben vastgesteld dat andere, openbaar beschikbare modellen deze eveneens kunnen opsporen zonder dat daarvoor een omzeiling nodig is.”
Mythos 5 is de niet-openbare volledige versie, die momenteel alleen door overheidsinstanties en geselecteerde zakelijke partners wordt gebruikt om hun systemen beter te beveiligen. Fable 5 is een model uit de Mythos-klasse dat naar verluidt geschikt zou zijn voor algemeen gebruik.
Het lijkt me logisch dat als Fable 5 gemakkelijk te jailbreaken is, het onder dezelfde beperkingen zou moeten vallen als Mythos 5. Anthropic stelt echter dat het over ingebouwde beveiligingsmaatregelen beschikt, waardoor vragen over bepaalde onderwerpen in plaats daarvan worden beantwoord door het op één na meest geavanceerde model, Claude Opus 4.8.
De relatie tussen de Amerikaanse regering en Anthropic leek in sommige kringen van de regering te verbeteren, na spanningen over militair gebruik, surveillance en autonome wapens. In maart bestempelde minister van Defensie Pete Hegseth het in San Francisco gevestigde bedrijf als een „risico voor de nationale veiligheid binnen de toeleveringsketen“.
Om de aard van het argument te begrijpen, moet men beseffen dat Mythos 5 in diverse rapporten wordt beschreven als bijzonder effectief bij het opsporen van kwetsbaarheden in software, waaronder al lang bestaande bugs in complexe, verouderde systemen, zoals die in het bankwezen en andere kritieke infrastructuren. Velen beschouwen dit als een systeem met een dubbel gebruik: uitstekend geschikt voor het versterken van de defensie, maar rampzalig in verkeerde handen.
In recente updates van grote softwareleveranciers zoals Microsoft en Google zien we een toename van het aantal verholpen kwetsbaarheden sinds deze leveranciers zijn overgestapt op AI-gestuurde zoekacties naar nieuwe kwetsbaarheden in hun eigen software. We weten ook dat Mozilla meer dan270 kwetsbaarheden in Firefoxheeft ontdekt met behulp van het nieuwe Claude Mythos-model van Anthropic.
Wat dit betekent
In verkeerde handen kunnen deze kwetsbaarheden zeker veel schade aanrichten. Het lijkt er dus op dat het nog even zal duren voordat gewone consumenten en ontwikkelaars volledige toegang krijgen tot Fable 5 en Mythos 5. De bestaande modellen van Anthropic (oudere varianten van Claude) blijven echter beschikbaar.
Voor thuisgebruikers die alleen maar met Claude aan het chatten waren of het programma gebruikten voor eenvoudige scripttaakjes, zal de verandering zich vooral uiten in de melding „deze specifieke versie is niet beschikbaar“, in plaats van een algehele uitval van de AI.
Het uit de brede handel halen van een geavanceerd model voor het opsporen van kwetsbaarheden maakt het voor cybercriminelen met beperkte middelen slechts in beperkte mate moeilijker om het opsporen van complexe bugs in consumentgerichte software en diensten te automatiseren. Er zijn op de zwarte markt andere modellen verkrijgbaar die wellicht net zo effectief zijn. En voor de meeste cybercriminelen is het veel belangrijker om een kwetsbaarheid om te zetten in een methode die ze in een exploit kunnen gebruiken.
We rapporteren niet alleen over bedreigingen - we verwijderen ze ook
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
