Het AI-knuffelspel van Bondu legde een webconsole bloot waarmee iedereen met een Gmail-account ongeveer 50.000 privé-chats tussen kinderen en hun knuffels kon lezen.
Het speelgoed van Bondu wordt op de markt gebracht als:
"Een zacht, knuffelbaar speelgoedje met AI dat met je kind kan kletsen, lesgeven en spelen."
Wat er niet wordt vermeld, is dat iedereen met een Gmail-account de transcripties van vrijwel elk kind dat een Bondu-speeltje gebruikte, kon lezen. Zonder daadwerkelijk te hacken, maar simpelweg door in te loggen met een willekeurig Google-account, konden twee onderzoekers de privégesprekken van kinderen bekijken.
Wat Bondu te zeggen heeft over veiligheid, gaat niet over beveiliging of privacy:
"De veiligheids- en gedragssystemen van Bondu zijn ontwikkeld tijdens een bètatestperiode van 18 maanden met duizenden gezinnen. Dankzij strenge beoordelingsprocessen en voortdurende monitoring hebben we tijdens de hele bètaperiode geen enkele melding ontvangen van onveilig of ongepast gedrag van Bondu."
Het is begrijpelijk dat Bondu de nadruk legt op succesvolle bètatests. Herinner je je nog de AI-teddybeer van FoloToy, die al snel van vriendelijke praatjes overschakelde naar seksuele onderwerpen en onveilige huishoudelijke adviezen?
De onderzoekers waren stomverbaasd toen ze ontdekten dat iedereen zich met zijn Google-account kon aanmelden op de openbare webconsole van het bedrijf. Uit de chatlogs tussen kinderen en hun knuffels kwamen namen, geboortedata, familiegegevens en intieme gesprekken naar voren. De enige gesprekken die niet beschikbaar waren, waren die welke handmatig waren verwijderd door ouders of medewerkers van het bedrijf.
Deze chatlogs zouden de droom van een inbreker of ontvoerder kunnen zijn, omdat ze inzicht bieden in de routines van het huishouden en aankomende evenementen.
Bondu haalde de console binnen enkele minuten na de bekendmaking offline en startte deze vervolgens opnieuw op met authenticatie. De CEO zei dat de reparaties binnen enkele uren waren voltooid, dat ze "geen bewijs" van andere toegang hadden gezien, en dat ze een beveiligingsbedrijf hadden ingeschakeld en extra monitoring hadden toegevoegd.
In het verleden hebben we erop gewezen dat knuffels met AI misschien geen goed alternatief zijn voor schermtijd. Critici waarschuwen dat wanneer een stuk speelgoed gepersonaliseerde, mensachtige dialogen gebruikt, het risico bestaat dat het aspecten van de relatie tussen verzorger en kind vervangt. Een van de oprichters van Curio beschreef hun knuffel zelfs als een stimulerende sidekick, zodat ouders "niet het gevoel hebben dat ze hun kinderen voor de tv moeten zetten".
Dus of het nu gaat om een grofgebekte, een kletskous of gewoon een zwakke vervanging voor echte vrienden, we moedigen het gebruik van kunstmatige intelligentie in kinderspeelgoed niet aan – tenzij we ooit een punt bereiken waarop ze veilig, privé en betrouwbaar kunnen worden gebruikt, en zelfs dan nog met mate.
Hoe blijf ik veilig
AI-aangedreven speelgoed komt eraan, of je dat nu leuk vindt of niet. Maar dat ze de eerste of de schattigste zijn, betekent niet dat ze veilig zijn. De geschiedenis leert ons steeds weer dat toezicht, privacy en een gezonde dosis scepsis de beste verdediging zijn die ouders hebben.
- Schakel uit wat je kunt.Als het speelgoed een verwijderbaar AI-onderdeel heeft, overweeg dan om dit uit te schakelen wanneer je niet direct toezicht kunt houden.
- Lees het privacybeleid. Ja, ik weet het, alles. Kijk wat er wordt opgenomen, opgeslagen en mogelijk gedeeld. Let vooral op gevoelige gegevens, zoals spraakopnames, video-opnames (als het speelgoed een camera heeft) en locatiegegevens.
- Beperk connectiviteit.Vermijd indien mogelijk speelgoed dat constante wifi- ofcloudinteractievereist.
- Houd gesprekken in de gaten.Vraag uw kinderen regelmatig wat het speelgoed zegt en houd waar mogelijk toezicht op het spelen.
- Houd persoonlijke informatie privé.Leer kinderen om nooit hun naam, adres of familiegegevens te delen, zelfs niet met hun knuffelvriendje.
- Vertrouw op je instinct.Als een stuk speelgoed grenzen lijkt te overschrijden of het natuurlijke spel verstoort, wees dan niet bang om in te grijpen of gewoon nee te zeggen.
We rapporteren niet alleen over privacy - we bieden u optie om er gebruik van te maken.
Privacy 's mogen nooit verder reiken dan een krantenkop. Houd uw online privacy uw door gebruik te maken van Malwarebytes Privacy VPN.
