Anthropic wurde von der US-Regierung angewiesen, den Betrieb seiner neuesten Modelle „Claude Fable 5“ und „Mythos 5“ einzustellen, da Missbrauch durch Gegner befürchtet wird.
Reuters berichtet, dass Anthropic angekündigt hat, seine fortschrittlichsten KI-Modelle für alle Nutzer „ab sofort zu deaktivieren“, nachdem die US-Regierung dem Unternehmen unter Berufung auf nationale Sicherheitsbedenken angeordnet hatte, den Zugang zu den Modellen für ausländische Staatsangehörige auszusetzen.
Berichten zufolge befürchten die Verantwortlichen, dass ein Jailbreak „Fable 5“ und „Mythos 5“ zu Tools zur Aufdeckung von Sicherheitslücken für Angreifer machen könnte. Daher gibt Anthropic an, die Dienste weltweit zu deaktivieren, anstatt zu versuchen, den Zugriff nach Nationalität zu filtern, da es praktisch unmöglich ist, die Nationalität jedes einzelnen Nutzers zu überprüfen.
In einer Erklärung auf seiner Website heißt es bei Anthropic:
„In dem Schreiben wurden keine konkreten Einzelheiten zu den Bedenken hinsichtlich der nationalen Sicherheit genannt. Nach unserem Verständnis geht die Regierung davon aus, dass ihr eine Methode bekannt geworden ist, mit der Fable 5 umgangen oder ‚gejailbreakt‘ werden kann. Wir haben uns eine Demonstration dieser speziellen Technik angesehen, die dazu dient, eine kleine Anzahl bereits bekannter, geringfügiger Schwachstellen zu identifizieren. Diese Schwachstellen erscheinen alle relativ einfach, und wir haben festgestellt, dass auch andere öffentlich zugängliche Modelle in der Lage sind, sie aufzudecken, ohne dass eine Umgehung erforderlich ist.“
Mythos 5 ist die nicht öffentlich zugängliche Vollversion, die derzeit ausschließlich von Regierungsbehörden und ausgewählten Unternehmenspartnern zur Absicherung ihrer Systeme genutzt wird. Fable 5 ist ein Modell der Mythos-Klasse, das angeblich für den allgemeinen Gebrauch geeignet sein soll.
Für mich macht es Sinn, dass Fable 5, wenn es leicht zu „jailbreaken“ ist, denselben Einschränkungen unterliegen sollte wie Mythos 5. Anthropic behauptet jedoch, dass es über integrierte Sicherheitsvorkehrungen verfügt, die dazu führen, dass Anfragen zu bestimmten Themen stattdessen eine Antwort vom nächstleistungsfähigsten Modell, Claude Opus 4.8, erhalten.
Die Beziehungen zwischen der US-Regierung und Anthropic hatten in Teilen der US-Regierung Anzeichen einer Entspannung gezeigt, nachdem es zuvor zu Spannungen hinsichtlich militärischer Nutzung, Überwachung und autonomer Waffen gekommen war. Im März stufte Verteidigungsminister Pete Hegseth das in San Francisco ansässige Unternehmen als „Risiko für die nationale Sicherheit in der Lieferkette“ ein.
Um die Natur dieses Arguments zu verstehen, muss man wissen, dass Mythos 5 in zahlreichen Berichten als besonders wirksam bei der Aufdeckung von Software-Schwachstellen beschrieben wird, darunter auch seit langem bestehende Fehler in komplexen Altsystemen, wie sie beispielsweise im Bankwesen und in anderen kritischen Infrastrukturen zu finden sind. Viele betrachten dies als Dual-Use-Anwendung: hervorragend geeignet für die Absicherung von Verteidigungssystemen, aber katastrophal, wenn es in die falschen Hände gerät.
In den jüngsten Updates großer Softwareanbieter wie Microsoft und Google ist ein Anstieg der Anzahl behobener Sicherheitslücken zu beobachten, seit die Anbieter damit begonnen haben, KI-gestützte Suchverfahren zur Aufdeckung neuer Sicherheitslücken in ihrer eigenen Software einzusetzen. Wir wissen zudem, dass Mozilla mithilfe des neuen „Claude Mythos“-Modells von Anthropic über270 Sicherheitslücken in Firefoxaufgedeckt hat.
Was das bedeutet
In den falschen Händen könnten diese Sicherheitslücken definitiv großen Schaden anrichten. Es sieht also so aus, als würde es noch einige Zeit dauern, bis normale Verbraucher und Entwickler uneingeschränkten Zugang zu Fable 5 und Mythos 5 erhalten. Die bestehenden Anthropic-Modelle (ältere Claude-Varianten) bleiben jedoch weiterhin verfügbar.
Für Privatanwender, die lediglich mit Claude gechattet oder das Programm zur Unterstützung bei einfachen Skripten genutzt haben, wird sich die Änderung vor allem darin äußern, dass „diese bestimmte Version nicht verfügbar ist“, und nicht in einem generellen Ausfall der KI.
Die Entfernung eines hochwertigen Modells zur Schwachstellensuche aus dem allgemeinen Umlauf erhöht den Aufwand, den Cyberkriminelle mit geringeren Ressourcen betreiben müssen, um die Erkennung komplexer Fehler in Verbraucher-Software und -Diensten zu automatisieren, nur in begrenztem Maße. Auf dem Schwarzmarkt sind andere Modelle erhältlich, die möglicherweise ebenso effektiv sind. Und für die meisten Cyberkriminellen ist es weitaus wichtiger, eine Schwachstelle in eine Methode umzuwandeln, die sie in einem Exploit nutzen können.
Wir berichten nicht nur über Bedrohungen - wir beseitigen sie
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
