Das KI-Plüschtier von Bondu enthüllte eine Webkonsole, über die jeder mit einem Gmail-Konto etwa 50.000 private Chats zwischen Kindern und ihren Kuscheltieren lesen konnte.
Das Spielzeug von Bondu wird vermarktet als:
„Ein weiches, kuscheliges Spielzeug mit KI, das mit Ihrem Kind plaudern, es unterrichten und mit ihm spielen kann.“
Was dabei jedoch nicht erwähnt wird, ist, dass jeder mit einem Gmail-Konto die Transkripte von praktisch jedem Kind lesen konnte, das ein Bondu-Spielzeug benutzt hat. Ohne tatsächliches Hacken, einfach durch Einloggen mit einem beliebigen Google-Konto, konnten zwei Forscher die privaten Unterhaltungen von Kindern einsehen.
Was Bondu über Sicherheit zu sagen hat, erwähnt weder Sicherheit noch Datenschutz:
„Die Sicherheits- und Verhaltenssysteme von Bondu wurden in einer 18-monatigen Beta-Testphase mit Tausenden von Familien entwickelt. Dank strenger Überprüfungsprozesse und kontinuierlicher Überwachung haben wir während der gesamten Beta-Phase keine einzige Meldung über unsicheres oder unangemessenes Verhalten von Bondu erhalten.“
Bondus Fokus auf erfolgreiche Beta-Tests ist verständlich. Erinnern Sie sich an den von FoloToy vermarkteten KI-Teddybären, der schnell von freundlichen Gesprächen zu sexuellen Themen und unsicheren Ratschlägen für den Haushalt überging?
Die Forscher waren schockiert, als sie feststellten, dass sich jeder mit seinem Google-Konto in die öffentlich zugängliche Webkonsole des Unternehmens einloggen konnte. Die Chat-Protokolle zwischen Kindern und ihren Plüschtieren enthüllten Namen, Geburtsdaten, Details zur Familie und intime Gespräche. Die einzigen Gespräche, die nicht verfügbar waren, waren diejenigen, die von Eltern oder Mitarbeitern des Unternehmens manuell gelöscht worden waren.
Potenziell könnten diese Chat-Protokolle der Traum eines Einbrechers oder Entführers sein, da sie Einblicke in die Abläufe im Haushalt und bevorstehende Ereignisse bieten.
Bondu nahm die Konsole innerhalb weniger Minuten nach Bekanntwerden offline und startete sie dann mit Authentifizierung neu. Der CEO sagte, dass die Fehlerbehebung innerhalb weniger Stunden abgeschlossen war, dass sie „keine Hinweise“ auf andere Zugriffe gesehen hätten und dass sie eine Sicherheitsfirma hinzugezogen und die Überwachung verstärkt hätten.
In der Vergangenheit haben wir darauf hingewiesen, dass KI-gestützte Stofftiere möglicherweise keine gute Alternative zur Bildschirmzeit sind. Kritiker warnen davor, dass ein Spielzeug, das personalisierte, menschenähnliche Dialoge verwendet, Aspekte der Beziehung zwischen Betreuer und Kind ersetzen könnte. Ein Gründer von Curio beschrieb sein Plüschtier sogar als anregenden Begleiter, damit Eltern „nicht das Gefühl haben, ihre Kinder vor den Fernseher setzen zu müssen“.
Ob es sich nun um einen Schimpfer, einen Schwätzer oder nur einen schwachen Ersatz für echte Freunde handelt, wir raten davon ab, künstliche Intelligenz in Kinderspielzeug zu verwenden – es sei denn, wir erreichen einen Punkt, an dem sie sicher, privat und geschützt eingesetzt werden kann, und selbst dann nur in Maßen.
Wie man sicher bleibt
KI-gestützte Spielzeuge kommen, ob man will oder nicht. Aber nur weil sie die ersten oder die niedlichsten sind, heißt das noch lange nicht, dass sie auch sicher sind. Die Geschichte lehrt uns immer wieder: Aufsicht, Datenschutz und eine gesunde Portion Skepsis sind die besten Schutzmaßnahmen, die Eltern haben.
- Schalten Sie aus, was Sie können.Wenn das Spielzeug über eine abnehmbare KI-Komponente verfügt, sollten Sie diese deaktivieren, wenn Sie es nicht direkt beaufsichtigen können.
- Lesen Sie die Datenschutzerklärung. Ja, ich weiß,die ganze. Achten Sie darauf, was aufgezeichnet, gespeichert und möglicherweise weitergegeben wird. Achten Sie besonders auf sensible Daten wie Sprachaufzeichnungen, Videoaufzeichnungen (wenn das Spielzeug eine Kamera hat) und Standortdaten.
- Begrenzen Sie die Konnektivität.Vermeiden Sie nach Möglichkeit Spielzeuge, die eine ständige WLAN- oderCloud-Verbindungerfordern.
- Beobachten Sie die Gespräche.Sprechen Sie regelmäßig mit Ihren Kindern darüber, was das Spielzeug sagt, und beaufsichtigen Sie das Spielen, wenn möglich.
- Persönliche Informationen geheim halten.Bringen Sie Kindern bei, niemals ihren Namen, ihre Adresse oder Details über ihre Familie preiszugeben, auch nicht gegenüber ihrem Plüschtier.
- Vertrauen Sie Ihrem Instinkt.Wenn ein Spielzeug Grenzen zu überschreiten scheint oder das natürliche Spiel beeinträchtigt, scheuen Sie sich nicht, einzugreifen oder einfach Nein zu sagen.
Wir berichten nicht nur über den Datenschutz - wir bieten Ihnen auch die Möglichkeit, ihn zu nutzen.
Risiken für Privacy sollten nie über eine Schlagzeile hinausgehen. Schützen Sie Ihre Online-Privatsphäre mit Malwarebytes Privacy VPN.
