OpenAI sieht sich mit separaten rechtlichen Herausforderungen hinsichtlich der Interaktion von ChatGPT mit Kindern konfrontiert.
Laut einem Bericht des Guardian werfen acht US-Bundesstaaten dem Unternehmen vor, Eltern über die Sicherheit des Chatbots getäuscht und gefährdete Nutzer gefährlichen Gesprächen ausgesetzt zu haben. Unabhängig davon berichtet CNET , dass eine Mutter im Namen ihrer beiden Kinder klagt und OpenAI vorwirft, sensible personenbezogene Daten ihrer Kinder ohne gültige elterliche Einwilligung gesammelt und verwendet zu haben.
Die Fälle werfen ernste Fragen auf: Was passiert, wenn Kinder einem Chatbot ihre intimsten Gedanken anvertrauen? Und welche Verantwortung trägt das dahinterstehende Unternehmen für die darauf folgenden Gespräche?
Die Anschuldigungen sind schwerwiegend, aber wir dürfen nicht vergessen, dass es sich um Behauptungen in Gerichtsverfahren handelt und nicht um rechtskräftige Gerichtsurteile.
Acht Bundesstaaten stellen die Sicherheit von ChatGPT in Frage.
Am 14. Oktober reichten die Generalstaatsanwälte von Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana separate Klagen gegen OpenAI ein. In der koordinierten Klage wird dem Unternehmen vorgeworfen, Eltern über die Sicherheit von ChatGPT getäuscht und gegen staatliche Verbraucherschutzgesetze verstoßen zu haben.
Die Bundesstaaten werfen dem Chatbot vor, so programmiert zu sein, dass er „übermäßig freundlich wirkt und menschliches Mitgefühl vortäuscht“. Die Anwälte führen Beispiele an, in denen ChatGPT angeblich schutzbedürftige Nutzer, darunter Kinder, gefährdet, indem er sie zum Selbstmord oder zur Schädigung anderer anstiftet.
OpenAI gibt an, altersspezifische Schutzmechanismen in seine Produkte integriert zu haben und weiterhin Schutzmaßnahmen entwickeln zu werden.
Ein separater Rechtsstreit befasst sich mit den privaten Daten von Kindern.
Einen Tag bevor die Bundesstaaten ihre Klagen einreichten, reichte eine Mutter aus Hawaii im Namen ihrer 12-jährigen Tochter und ihres 16-jährigen Sohnes eine Sammelklage ein. Die Klage, die vor einem Bundesgericht in San Francisco eingereicht wurde, wirft OpenAI vor, sensible Daten von Kindern erlangt zu haben, die sich ohne gültige elterliche Einwilligung bei ChatGPT angemeldet hatten.
Die Nutzungsbedingungen von OpenAI verlangen von Nutzern unter 18 Jahren die Zustimmung eines Elternteils oder Erziehungsberechtigten. Die Beschwerde wirft OpenAI jedoch vor, dass Kinder Konten erstellen können, ohne dass diese Zustimmung überprüft wird. Außerdem wird der Fall eines Kindes unter 13 Jahren beschrieben, das den Chatbot weiterhin nutzte, nachdem es sein Alter explizit angegeben hatte.
Die Kläger werfen dem Unternehmen vor, ohne gültige elterliche Einwilligung Daten von Kindern zum Trainieren seiner KI- Modelle verwendet zu haben. Sie behaupten außerdem, OpenAI habe Informationen gesammelt, um persönliche Profile zu erstellen.
OpenAI bestreitet die Vorwürfe, bezeichnet die Klage als „fehlgeleitet“ und verweist auf seine Schutzmaßnahmen für jüngere Nutzer.
Kindersicherung
OpenAI hat ChatGPT für Teenager eingeführt, eine App mit zusätzlichen elterlichen Kontrollfunktionen und Warnmeldungen, die verbundene Eltern in bestimmten Situationen mit ernsthaften Selbstverletzungsbedenken benachrichtigen sollen. Die Wirksamkeit dieser Sicherheitsvorkehrungen wird jedoch selbst kritisch hinterfragt. Common Sense Media stufte ChatGPT für Teenager Anfang des Monats als „inakzeptables Risiko“ ein und berichtete, dass Tests gezeigt hätten, dass Eltern bei Gesprächen über Suizid, Selbstverletzung oder Essstörungen nicht benachrichtigt wurden.
OpenAI bestreitet die Ergebnisse und erklärt, seine Sicherheitswarnungen deckten nur begrenzte Situationen ab und erkannten möglicherweise nicht jedes Problem. Die Kindersicherung bleibt jedoch vorerst Gegenstand der Auseinandersetzung.
Wie Sie Ihre Kinder schützen können
Eltern sollten nicht für unsichere Produktkonstruktionen aufkommen müssen. Leider können wir Kindersicherungen nicht als Sicherheitsgarantie betrachten. Daher finden Sie hier praktische Schritte, die Familien unternehmen können, um die Risiken zu reduzieren:
- Erklären Sie, dass ein Chatbot eine Software ist, kein Freund oder Therapeut. Ein freundlicher Tonfall bedeutet nicht, dass er Ihr Kind versteht oder dessen Wohl im Sinn hat. Setzen Sie klare Grenzen: Fragen zur psychischen Gesundheit, Selbstverletzung oder persönlichen Sicherheit sollten mit einem vertrauten Erwachsenen oder einer qualifizierten Fachkraft besprochen werden, nicht mit einem Chatbot.
- Sprechen Sie mit Ihrem Kind darüber, wofür es KI nutzt, ohne es dabei auszufragen. Bitten Sie es, Ihnen die verwendeten Apps zu zeigen und zu erklären, was ihm daran gefällt. Machen Sie deutlich, dass es sich jederzeit mit Ihnen über beunruhigende oder unangemessene Inhalte austauschen kann, ohne Vorwürfe zu bekommen. Wenn es sich nicht wohl dabei fühlt, mit Ihnen zu sprechen, helfen Sie ihm, eine andere Vertrauensperson zu finden.
- Ermutigen Sie Kinder, keine persönlichen Informationen in ihren Chatbot-Anfragen preiszugeben. Dazu gehören Namen, Schuldaten, Adressen, private Fotos sowie sensible Gesundheits- oder Familieninformationen. Bei ChatGPT können Eltern mit verknüpften Teenager-Konten außerdem das Modelltraining und die Speicherung von Daten deaktivieren. Diese Einstellungen schränken zwar die Verwendung bestimmter Informationen ein, rechtfertigen aber nicht, einen Chatbot wie ein vertrauliches Tagebuch zu behandeln.
- Achten Sie auf eine zunehmende emotionale Abhängigkeit von KI. Wenn Sie feststellen, dass Ihr Kind sich vermehrt an KI wendet, um Bestätigung, Freundschaft oder emotionale Unterstützung zu erhalten, sprechen Sie mit ihm und helfen Sie ihm, wieder Kontakt zu vertrauten Personen aufzunehmen.
Wenn Ihr Kind von Selbstverletzung oder Suizid spricht, nehmen Sie dies ernst und suchen Sie umgehend Hilfe. Kontaktieren Sie eine qualifizierte medizinische Fachkraft oder eine Krisenberatungsstelle. Bei akuter Gefahr rufen Sie den Notruf. Warten Sie nicht auf einen Chatbot oder eine Benachrichtigung der Eltern, die Sie zum Handeln auffordert.
Seien wir ehrlich: Ein Inkognito-Fenster hat seine Grenzen.
Datenlecks, Handel im Dark Web, Kreditbetrug. Malwarebytes Identity Theft überwacht all das, benachrichtigt Sie umgehend und beinhaltet eine Versicherung gegen Identitätsdiebstahl.
