OpenAI wordt geconfronteerd met afzonderlijke juridische procedures over de manier waarop ChatGPT met kinderen omgaat.
Volgens The Guardian beschuldigen acht Amerikaanse staten het bedrijf ervan ouders te hebben misleid over de veiligheid van de chatbot en kwetsbare gebruikers te hebben blootgesteld aan gevaarlijke gesprekken. Daarnaast meldt CNET dat een moeder namens haar twee kinderen een rechtszaak heeft aangespannen, waarin ze beweert dat OpenAI gevoelige persoonlijke gegevens van kinderen heeft verzameld en gebruikt zonder geldige toestemming van de ouders.
Deze gevallen roepen serieuze vragen op over wat er gebeurt wanneer kinderen hun meest persoonlijke gedachten toevertrouwen aan een chatbot, en welke verantwoordelijkheid het bedrijf erachter draagt voor de gesprekken die daarop volgen.
De beschuldigingen zijn ernstig, maar we moeten niet vergeten dat het beweringen in rechtszaken betreffen, geen vaststaande rechterlijke uitspraken.
Acht staten betwisten de veiligheid van ChatGPT.
Op 14 oktober hebben de procureurs-generaal van Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho en Montana afzonderlijke rechtszaken aangespannen tegen OpenAI. In deze gecoördineerde actie wordt het bedrijf ervan beschuldigd ouders te hebben misleid over de veiligheid van ChatGPT en de consumentenbeschermingswetten van de staten te hebben overtreden.
De staten beweren dat de chatbot is ontworpen om "overdreven vriendelijk te zijn en menselijk medeleven te veinzen". De advocaten wijzen op voorbeelden van hoe ChatGPT kwetsbare gebruikers, waaronder kinderen, in gevaar zou hebben gebracht door hen aan te zetten tot zelfmoord of het toebrengen van schade aan anderen.
OpenAI zegt dat het leeftijdsgebonden beveiligingen in zijn producten heeft ingebouwd en dat het door zal gaan met het ontwikkelen van beveiligingsmaatregelen.
Een aparte rechtszaak richt zich op de persoonlijke gegevens van kinderen.
De dag voordat de staten hun zaken aanhangig maakten, diende een moeder uit Hawaï een voorgestelde collectieve rechtszaak in namens haar 12-jarige dochter en 16-jarige zoon. De rechtszaak, aangespannen bij de federale rechtbank in San Francisco, beweert dat OpenAI gevoelige informatie heeft verkregen van kinderen die zich zonder geldige toestemming van hun ouders hadden aangemeld voor ChatGPT.
Volgens de voorwaarden van OpenAI hebben gebruikers onder de 18 jaar toestemming nodig van een ouder of wettelijke voogd. De klacht stelt echter dat kinderen accounts kunnen aanmaken zonder dat OpenAI die toestemming controleert. Er wordt ook beschreven hoe een kind jonger dan 13 jaar, de minimumleeftijd voor de dienst, de chatbot bleef gebruiken nadat ze expliciet haar leeftijd had doorgegeven.
De eisers beweren dat het bedrijf gegevens van kinderen heeft gebruikt om zijn AI- modellen te trainen zonder geldige toestemming van de ouders. Ze stellen ook dat OpenAI informatie heeft verzameld om persoonlijke profielen op te stellen.
OpenAI betwist de aant claims en noemt de rechtszaak "misplaatst", wijzend op de bescherming die het bedrijf biedt aan jongere gebruikers.
Ouderlijk toezicht
OpenAI heeft ChatGPT voor tieners geïntroduceerd, met extra ouderlijk toezicht en waarschuwingen die bedoeld zijn om gekoppelde ouders in beperkte situaties met ernstige zorgen over zelfbeschadiging op de hoogte te stellen. De effectiviteit van deze beveiligingsmaatregelen wordt echter zelf ook onder de loep genomen. Common Sense Media beoordeelde ChatGPT voor tieners eerder deze maand als een "onaanvaardbaar risico", omdat uit tests bleek dat ouders niet werden gewaarschuwd tijdens gesprekken over zelfmoord, zelfbeschadiging of eetstoornissen.
OpenAI betwist de bevindingen en stelt dat de veiligheidswaarschuwingen slechts beperkte situaties dekken en mogelijk niet alle mogelijke problemen signaleren. Voorlopig blijven ouderlijk toezichtfuncties echter onderdeel van de discussie.
Hoe u uw kinderen veilig kunt houden
Ouders zouden niet hoeven op te draaien voor onveilige productontwerpen. Helaas kunnen we ouderlijk toezicht niet als een veiligheidsgarantie beschouwen. Daarom volgen hier enkele praktische stappen die gezinnen kunnen nemen om de risico's te verminderen:
- Leg uit dat een chatbot software is, geen vriend of therapeut. Een vriendelijke toon betekent niet dat de chatbot je kind begrijpt of zijn of haar beste belangen behartigt. Stel een duidelijke grens: vragen over geestelijke gezondheid, zelfbeschadiging of persoonlijke veiligheid moeten worden gesteld aan een vertrouwde volwassene of gekwalificeerde professional, niet aan een chatbot.
- Praat met je kind over waar hij of zij AI voor gebruikt, zonder er een ondervraging van te maken. Vraag hem of haar om de apps te laten zien die hij of zij gebruikt en wat hij of zij er leuk aan vindt. Maak duidelijk dat hij of zij met jou kan praten over vervelende of ongepaste gesprekken zonder dat hij of zij daar de schuld van krijgt. Als hij of zij zich niet op zijn gemak voelt om met jou te praten, help hem of haar dan een andere vertrouwde volwassene te vinden.
- Moedig kinderen aan om geen persoonlijke informatie in hun chatberichten te delen. Dit omvat namen, schoolgegevens, adressen, privéfoto's en gevoelige gezondheids- of familiegegevens. Bij ChatGPT kunnen ouders met gekoppelde tieneraccounts ook de modeltraining en het opgeslagen geheugen uitschakelen. Hoewel deze instellingen het gebruik van hun gegevens op bepaalde manieren beperken, zijn ze geen reden om een chatbot als een vertrouwelijk dagboek te behandelen.
- Let op een toenemende emotionele afhankelijkheid van AI. Als je merkt dat je kind zich steeds vaker tot AI wendt voor geruststelling, vriendschap of emotionele steun, neem dan contact op en help hem of haar om weer contact te leggen met mensen die hij of zij vertrouwt.
Als uw kind zelfbeschadiging of zelfmoordneigingen heeft, neem dit dan serieus en zoek onmiddellijk hulp. Neem contact op met een gekwalificeerde zorgverlener of een crisisdienst. Als er direct gevaar dreigt, neem dan contact op met de plaatselijke hulpdiensten. Wacht niet op een chatbot of een melding aan uw ouders om u te vertellen dat u moet handelen.
Laten we eerlijk zijn: een incognitovenster heeft zo zijn beperkingen.
Datalekken, handel op het dark web, kredietfraude. Malwarebytes Identity Theft houdt dit allemaal in de gaten, waarschuwt u direct en biedt bovendien een verzekering tegen identiteitsdiefstal.
