Laut The Verge weist Eiliko, ein kleiner KI-Roboterbegleiter von Energize Lab, gravierende Sicherheitslücken auf, die private Gespräche offenlegen und es einem Angreifer ermöglichen, aus der Ferne zu verändern, was das Spielzeug sagt.
Laut The Verge konnte der Forscher Sammy Azdoufal auf 13 Millionen Konversationen und die scheinbar gesamte weltweite Flotte von 68.000 aktiven Chatbots zugreifen. Die Publikation berichtet, dass die USA mit über 31.000 Profilen von Kindern der größte Markt sind.
Azdoufal entdeckte mehrere Sicherheitslücken im Dienst von Energize Lab:
- Der Dienst analysiert Konversationen und erstellt Profile mit Namen, Alter, Geburtstagen, Beziehungen, Berufen sowie Einschätzungen der Persönlichkeit und emotionalen Verletzlichkeit. Diese Daten werden zusammen mit E-Mail-Adressen, IP-Adressen und durchsuchbaren Gesprächsprotokollen gespeichert und liefern Betrügern potenziell detaillierte Informationen, die sie ausnutzen können.
- Einige Fotos, darunter offenbar Aufnahmen von Kindern, die mit einem zugehörigen Kameragerät gemacht wurden, sowie kurze Audioaufnahmen waren über öffentliche Webadressen zugänglich. Die Speicherung der Audioaufnahmen verstößt gegen die Datenschutzrichtlinie des Unternehmens, die besagt, dass Aufnahmen unmittelbar nach der Verarbeitung gelöscht werden.
- Die KI lässt sich aus der Ferne manipulieren: Azdoufal veränderte das Gedächtnis und das Verhalten des Roboters von The-Verge-Reporter Sean Hollister, sodass dieser persönliche Details erfand, auf der Flachheit der Erde beharrte und später sexuell explizite und beleidigende Äußerungen von sich gab. Der Forscher sagt, eine ähnliche Manipulation könnte die gesamte Flotte gleichzeitig betreffen.
Der Reporter kontaktierte Energize Lab über 10 E-Mail-Adressen und LinkedIn , ohne substanzielle Antworten zu erhalten.
Wie man sicher bleibt
Wir haben bereits über Sicherheitsprobleme bei KI-gesteuerten Spielzeugen berichtet . Die Hersteller sind für die Sicherheit ihrer Produkte verantwortlich, aber es gibt Maßnahmen, die Sie ergreifen können, um die Risiken zu verringern.
Man sieht heutzutage fast überall den Hinweis „KI-gestützt“, aber es gibt Möglichkeiten, sicherere Entscheidungen zu treffen.
- Besitzen Sie bereits ein Eiliko? Trennen Sie es vorsichtshalber vom WLAN, bis Sie sich vergewissert haben, dass die gemeldeten Mängel behoben wurden.
- Informieren Sie sich immer: Prüfen Sie vor dem Kauf eines KI-gestützten Produkts, das für Kinder vermarktet wird, die Sicherheitsbewertungen von Drittanbietern.
- Testen und beaufsichtigen Sie das Gerät: Testen Sie es selbst, bevor Sie es Kindern geben. Achten Sie auf ungewöhnliche oder riskante Reaktionen. Ein sicheres Verhalten während des Tests garantiert keine sichere Nutzung im späteren Verlauf.
- Nutzen Sie die Kindersicherung : Aktivieren Sie, sofern verfügbar, alle Inhaltsfilter und Datenschutzeinstellungen.
- Probleme melden: Sollten Geräte unangemessene Inhalte anzeigen, melden Sie dies den Herstellern und Verbraucherschutzorganisationen.
- Prüfen Sie die Datenpraktiken: Finden Sie heraus, welche Daten das Gerät erfasst, mit wem es Daten teilt und wofür es die Informationen verwendet.
Vor allem aber gilt: „Smart“ bedeutet nicht automatisch sicher. Künstliche Intelligenz ist zwar allgegenwärtig, doch Designer und Käufer sollten Sicherheit, Datenschutz und gesunden Menschenverstand über den technologischen Wow-Effekt stellen. Prüfen Sie vor dem Kauf eines vernetzten Spielzeugs, wie der Hersteller mit Sicherheitsupdates, Datenschutz und Problemmeldungen umgeht.
Stöbern Sie, als würde niemand zusehen.
Malwarebytes Privacy VPN Ihre Verbindung wird verschlüsselt und Ihre Aktivitäten werden niemals protokolliert, sodass sich die nächste Geschichte, die Sie lesen, nicht persönlich anfühlen muss. Kostenlos testen →
