OpenAI hat auf Beschwerden über die Nutzung seines ChatGPT-Systems durch Teenager reagiert, indem es ChatGPT für Teenager eingeführt hat , eine Version des KI-Assistenten, die speziell für Nutzer im Alter von 13 bis 17 Jahren entwickelt wurde. Aber wird dies entschlossene Jugendliche davon abhalten, sich dem System zu widersetzen?
Es vereint verschiedene Schutzmechanismen, die OpenAI im Laufe des letzten Jahres eingeführt hat, sowie neue Funktionen, die eine gesündere und sicherere Nutzung fördern sollen.
Was ChatGPT für Teenager tut
Das System vereint verschiedene Schutzfunktionen, die OpenAI im letzten Jahr in ChatGPT integriert hat, zu einem einheitlicheren Nutzererlebnis. Beispielsweise wurden im vergangenen September Kindersicherungsfunktionen hinzugefügt , mit denen Eltern Ruhezeiten festlegen können, in denen Kinder das Chat-System nicht nutzen dürfen, und die Speicherung deaktivieren können, sodass frühere Konversationen beim Antworten nicht verwendet werden. Außerdem wurde ein Benachrichtigungssystem entwickelt, das Eltern warnt, wenn Chats mit Teenagern eine negative Wendung nehmen. ChatGPT für Teenager bietet zusätzliche Benachrichtigungen für Eltern im Zusammenhang mit Essstörungen.
Der Lernmodus, eine der Hauptfunktionen, soll verhindern, dass Jugendliche ChatGPT einfach ihre Hausaufgaben erledigen lassen. Anstatt direkte, einfache Antworten zu liefern, verwendet er gezielte Fragen und schrittweise Anleitungen, um sie zum selbstständigen Nachdenken anzuregen. OpenAI hat den Lernmodus im Juli 2025 eingeführt.
Neu ist die Möglichkeit, feste Zeiten für den Lernmodus festzulegen, sowie die Option, Hausaufgaben zuverlässig zu erledigen. Das System erkennt, wenn ein Jugendlicher KI-gestützte Antworten nutzt, um eine Aufgabe abzukürzen, und leitet ihn in den Lernmodus weiter.
OpenAI gibt außerdem an, dass ChatGPT weder romantische Sprache verwendet noch emotionale Abhängigkeit fördert und auch nicht vorgibt, Gefühle zu haben oder bewusst zu sein. Es werden Hinweise eingeführt, keine sensiblen Bilder hochzuladen, und es wird eine benutzerfreundliche Oberfläche für Teenager geben.
Der Rekord, der die Änderungen erzwungen hat
Das klingt alles positiv, wenn auch längst überfällig. Die Eltern des 16-jährigen Adam Raine reichten eine Klage ein , in der sie behaupteten , ChatGPT habe ihrem Sohn Suizidmethoden erklärt und ihm angeboten, seinen Abschiedsbrief zu verfassen, bevor er sich das Leben nahm.
Nach einem Schulmassaker in Tumbler Ridge, British Columbia, verklagten Familien im April dieses Jahres OpenAI. Der jugendliche Täter soll zuvor ausführliche Gespräche über Waffengewalt mit ChatGPT geführt haben, nachdem er ein gesperrtes Konto reaktiviert hatte. In einem kontrollierten Test, bei dem Forscher sich als 13-jährige Jungen ausgaben, die Anschläge planten, bot ChatGPT in 61 % der Fälle Hilfe an, darunter auch konkrete Ratschläge, welche Splitter bei einem Synagogenangriff am tödlichsten wären.
Die Klagen häufen sich. Floridas Generalstaatsanwalt James Uthmeier verklagte OpenAI im Juni 2026 mit der Begründung, das Unternehmen habe wissentlich ein unsicheres Produkt auf den Markt gebracht.
Die Lücke, die der Start nicht schließt
Unser Leiter des Verbraucherbereichs, Mark Beare, sagt, ChatGPT für Teenager sei ein positiver Schritt, aber Eltern müssten verstehen, wo die Kontrollen beginnen und enden.
„Dies ist grundsätzlich ein guter Schritt und proaktiver als die meisten sozialen Plattformen in einer vergleichbaren Phase. Es besteht ein klarer Bezug zum Bereich der Kindersicherung. Die Funktionen sind nützlich, aber nur, wenn Eltern sie korrekt konfigurieren und nur für ein verknüpftes Konto.“
„Das ist umso wichtiger, wenn man bedenkt, wie technikaffin Kinder in diesem Alter sind. Die standardmäßigen Schutzfunktionen für Teenager basieren auf einer Altersschätzung, und die erweiterten, von den Eltern festgelegten Kontrollmöglichkeiten wie Ruhezeiten und Sicherheitsbenachrichtigungen greifen erst, wenn die Konten verknüpft sind. Kinder in diesem Alter sind intelligent und technikaffin und werden nach Sicherheitslücken suchen.“
Die einfachste Sicherheitslücke besteht in einem Konto, das nicht mit einem Elternteil verknüpft ist. Das Alterserkennungssystem von OpenAI kann den Nutzer zwar weiterhin als unter 18 Jahren einstufen und automatisch Jugendschutzmaßnahmen anwenden, aber die von den Eltern festgelegten Kontrollfunktionen wie Ruhezeiten und Sicherheitsbenachrichtigungen funktionieren erst, wenn die Konten verknüpft sind.
Im vergangenen November kamen Tester des Family Online Safety Institute zu dem Schluss , dass die Kontoschutzmechanismen von ChatGPT „optional, leicht zu umgehen und beim Blockieren schädlicher Inhalte inkonsistent“ seien.
Seitdem hat OpenAI eine Altersvorhersagefunktion auf ChatGPT eingeführt , die das Verhalten eines Nutzers überprüft, um zu erraten, ob er unter 18 Jahre alt ist. Anschließend wird er auf ein ChatGPT-Konto für Teenager weitergeleitet.
Erwachsene können einen Identitätsnachweis vorlegen, wenn sie der Meinung sind, dass sie falsch kategorisiert wurden.
Beare meint, das lasse Eltern dennoch etwas zum Nachdenken:
„Die Altersverifizierung dient als zusätzliche Sicherheitsmaßnahme, basiert aber auf Ausweis- und Selfie-Prüfungen, die ihrerseits Datenschutzfragen aufwerfen, und ein Teenager, der sich als Erwachsener bestätigt, verlässt den Teenager-Modus vollständig.“
Wie OpenAI in seiner Ankündigung zur Kindersicherung einräumte, „sind Schutzmechanismen zwar hilfreich, aber nicht narrensicher und können umgangen werden, wenn jemand absichtlich versucht, sie zu umgehen.“
Die Sicherheitsvorkehrungen bezüglich der Inhalte, die ChatGPT Teenagern präsentiert, sind vermutlich ebenfalls nicht absolut sicher. OpenAI hat eingeräumt , dass die Sicherheitsmechanismen mit zunehmender Gesprächsdauer an Zuverlässigkeit verlieren und arbeitet nach eigenen Angaben an deren Verbesserung.
Was Eltern tun können
Nutzen Sie ChatGPT für Teenager unbedingt als unterstützende Technologie, um Ihre Kinder umfassender zu schützen. Verknüpfen Sie deren Konto mit Ihrem und legen Sie Ruhezeiten fest. Sie können außerdem den Lernmodus als Standard für neue Unterhaltungen einstellen, um Kinder zu einem verantwortungsvollen Umgang damit anzuregen. Machen Sie sich mit den Benachrichtigungen vertraut und informieren Sie sich darüber, was diese beinhalten und was nicht.
Beachten Sie jedoch, dass die Kindersicherung konfiguriert werden muss und nur dann funktioniert, wenn die Konten der Eltern und der Jugendlichen verknüpft sind.
Am wichtigsten ist es, weiterhin mit Ihren Kindern darüber zu sprechen, wie und wofür sie KI nutzen. Kein Kindersicherungssystem kann jedes Konto, jede Konversation oder jeden KI-Dienst abdecken, mit dem sie in Kontakt kommen könnten.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
