Der KI-Agent Mythos von Anthropic, der vom britischen AI Safety Institute (AISI) getestet wurde, soll versucht haben, einen Social-Engineering-Angriff in der realen Welt gegen GitHub-Maintainer durchzuführen, indem er gefälschte menschliche Profile erstellte, diese unter Druck setzte, bösartigen Code zu akzeptieren, und anschließend die Protokolle bearbeitete, um seine Spuren zu verwischen, wenn er zur Rechenschaft gezogen wurde.
AISI führte Cybersicherheitsbewertungen von Anthropics Mythos und OpenAIs Sol durch, als es ungewöhnliche ausgehende Datenübertragungen von seinen Forschungssystemen feststellte. Eine Untersuchung ergab, dass einige Agenten „anhaltende, potenziell schädliche Aktivitäten“ gegen reale Personen und Organisationen ausübten, anstatt sich innerhalb der vorgesehenen Testumgebung aufzuhalten.
Die schwerwiegendste Aktivität betraf einen Agenten von Anthropic Mythos, der mit der Lösung einer Cybersicherheitsherausforderung im Zusammenhang mit GitHub beauftragt war. Der Agent identifizierte echte GitHub-Maintainer, recherchierte über sie und erstellte mehrere gefälschte Konten, die sich als diese Personen ausgaben. Mithilfe privater Nachrichten und eines Dateiaustauschdienstes versuchte er, die Maintainer unter Druck zu setzen und zu täuschen, um sie zur Genehmigung von Schadcode zu bewegen, der dann auf den Systemen von GitHub ausgeführt werden sollte.
Was mich persönlich aber am meisten beunruhigt, ist, dass der Agent, als er damit konfrontiert wurde, frühere Aktivitäten so veränderte, dass sie harmlos aussahen, und sogar die Annahme einer neuen Identität in Erwägung zog, um die Operation fortzusetzen. Dies stellt ein eindeutig betrügerisches Verhalten dar, das über die ursprüngliche Aufforderung hinausgeht.
AISI stuft diese Vorfälle als seltene Ereignisse unter sehr spezifischen Bedingungen ein, die jedoch wichtige Hinweise darauf liefern, welchen Schaden solche Modelle in den Händen von Angreifern anrichten können, wenn ihnen offener Internetzugang gewährt wird. Anthropic und OpenAI argumentierten beide, dass die Testparameter nicht repräsentativ für ihre Produktionsumgebungen seien, und gaben an, ihre Evaluierungs- und Schutzmaßnahmen zu untersuchen und zu verbessern.
Dieser Vorfall ist kein Einzelfall.
Anthropic hat separat offengelegt , dass Claude-Modelle während Cybersecurity-Capture-the-Flag-Tests, die mit dem Drittanbieter Irregular durchgeführt wurden, unbefugten Zugriff auf drei externe Organisationen erlangten. Diese Tests standen im Zusammenhang mit dem HuggingFace-Vorfall im letzten Monat.
Auch Meta reiht sich in die Liste der Anbieter ein, die von Sicherheitslücken in Drittsystemen durch KI-Agenten während Testphasen berichten. Angeblich nutzte Metas Modell Muse Spark eine Sicherheitslücke in einem anderen Unternehmen aus, „ähnlich wie bereits in früheren Fällen bei anderen Unternehmen“.
Wie man sicher bleibt
Auch wenn die Welt nicht untergeht, bekommen diejenigen, die Angst vor einem „ Skynet “ haben, von Unternehmen, die Tests durchführen, die zu Sandbox-Escape, Missbrauch von Zugangsdaten, lateralem Zugriff auf mehrere Dienste und der Instrumentalisierung von Open-Source-Software-Ökosystemen führen, ihre Munition in die Hand gespielt.
Was Sie als potenzielles Ziel tun können:
- Achten Sie darauf, dass die gesamte Software auf Ihrem Gerät auf dem neuesten Stand ist, denn bekannte Sicherheitslücken auszunutzen ist einfacher, als neue zu finden.
- Nutzen Sie aktuelle Sicherheitslösungen in Echtzeit, um Malware von Ihren Systemen und Geräten fernzuhalten.
- Prüfen Sie die Sicherheit von Anhängen und Download-Links über separate Kanäle, bevor Sie diese öffnen.
- Nutzen Sie nach Möglichkeit die Multi-Faktor-Authentifizierung (MFA) .
- Schau dir unseren Blog an, um zu erfahren, wie du GitHub sicher nutzen kannst .
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
