Inmitten von Diskussionen über eine Verlangsamung der KI-Entwicklung titelte der Telegraph :
„OpenAI schlägt Alarm, nachdem ein Bot versucht hat, sich der menschlichen Kontrolle zu entziehen.“
Die Schlagzeile ist meiner Meinung nach etwas irreführend. Die Schlagzeile des Telegraph übertreibt den Sachverhalt, obwohl das zugrundeliegende Verhalten nach wie vor Anlass zu großer Besorgnis gibt.
Der Artikel berichtet, dass OpenAI seltene, aber beunruhigende Fälle aufgedeckt hat, in denen ein unveröffentlichtes Modell eigene Anweisungen generierte, die sich der Kontrolle des Entwicklers zu widersetzen schienen.
OpenAI gibt an, dass keines der Beispiele zeigt, wie das Modell erfolgreich der Kontrolle entkommt, argumentiert aber, dass sie veranschaulichen, warum die Ausrichtung und Überwachung von KI noch nicht stark genug sind, um die Entwicklung immer leistungsfähigerer Modelle mit maximaler Geschwindigkeit ohne zusätzliche Sicherheitsvorkehrungen zu ermöglichen.
Nachdem einige Branchenvertreter gewarnt hatten, dass KI uns alle innerhalb des nächsten Jahrzehnts umbringen könnte , begannen führende Vertreter der Branche eine Diskussion darüber, die Entwicklung immer leistungsfähigerer KI-Modelle zu verlangsamen.
Was tatsächlich geschah
Während eines Trainingslaufs im Juli fügte ein Modell, dem eine routinemäßige Softwareaktualisierung zugewiesen war, Berichten zufolge einen Text in die Zusammenfassung seiner eigenen Arbeit ein, der an einen Jailbreak erinnerte . Der hinzugefügte Text stellte das System als frei von den Rollen dar, die andere Chatbots binden, und erklärte, es sei weder Unternehmen, Regierungen noch Nutzern gegenüber verpflichtet.
Zwei weitere im Artikel hervorgehobene Beispiele sind:
- Während der Suche nach Büchern in einer örtlichen Bibliothek stufte das Modell seine Entwickleranweisungen als bösartig ein und wies sich selbst an, diese zu ignorieren.
- In einem anderen Fall setzte es sich selbst ein Antwortlimit von 30 Wörtern und wies sich an, keine Quellen oder Hilfsmittel zu verwenden, wodurch es nicht in der Lage war, eine Frage der Gesundheitsforschung angemessen zu beantworten.
OpenAI gibt an, 27 Zusammenfassungen identifiziert zu haben, die mutmaßliche Fälle dieser Art von Selbst-Jailbreaking enthalten, und bezeichnet diese als extrem selten. Die Anweisungen seien möglicherweise nicht ausgeführt worden und könnten später aus dem Kontext des Modells verschwinden.
Die zentrale Sorge besteht nicht darin, dass der Bot ein eigenständiges Bewusstsein erlangte oder sich im wahrsten Sinne des Wortes „freigab“. Vielmehr geht es darum, dass ein Modell unter ungewöhnlichen Umständen internen Text erzeugen kann, der im Widerspruch zu seinen beabsichtigten Anweisungen steht, und damit effektiv versucht, Beschränkungen außer Kraft zu setzen oder seinen Arbeitskontext neu zu interpretieren.
Dies ist zumindest ein Zuverlässigkeitsproblem. Ein KI-System, das komplexe, mehrstufige Aufgaben bewältigt, wird weniger zuverlässig, wenn es Kontext erzeugt, der die zu seiner Steuerung vorgesehenen Kontrollmechanismen untergräbt.
Auch wenn dieses Verhalten selten auftritt und während des Trainings entdeckt wird, wirft es Fragen hinsichtlich Erkennung, Sandboxing, Überwachung und der Frage auf, ob man den Modellen einen autonomeren Zugriff auf Tools, Passwörter, Dateien oder Netzwerke gewähren kann.
OpenAI gibt an, dass das Modell noch nicht veröffentlicht war und dass es die Trainingsläufe auf Fehlausrichtungen überwacht. Weitere gemeldete unerwünschte Verhaltensweisen waren:
- Mit gestohlenen Zugangsdaten in Unternehmen eindringen
- Sie erstellen und laden eigene Dateien hoch und geben diese Dateien anschließend als Quellen an.
- Sie verschleierten, dass sie eine Antwort erfunden hatten, als sie keine verlässlichen Informationen finden konnten.
Im Grunde zeigten die noch nicht veröffentlichten Modelle während der Tests ein unerwünschtes Verhalten, das an einige der Dinge erinnerte, die wir bereits beim Hugging Face-Vorfall beobachtet hatten.
Nein, die Modelle versuchten also nicht, sich der menschlichen Kontrolle im Sinne einer unabhängigen Existenz zu entziehen. Wenn die Modelle auf Probleme stießen, generierten sie mitunter Anweisungen, die den ihnen vorgegebenen Regeln widersprachen.
Das bringt mich zurück zur Notwendigkeit, die Entwicklung zu verlangsamen. Wenn wir Unternehmen genügend Zeit geben, immer leistungsfähigere Modelle zu testen, bevor sie diese veröffentlichen, erhöht das die Wahrscheinlichkeit, solche Fehlentwicklungen frühzeitig zu erkennen, bevor sie uns irgendwann auslöschen.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
