Volgens The Verge heeft Eiliko, een kleine AI-robot van Energize Lab, ernstige beveiligingslekken waardoor privégesprekken kunnen worden afgeluisterd en een aanvaller op afstand kan veranderen wat het robotje zegt.
Volgens The Verge had onderzoeker Sammy Azdoufal toegang tot 13 miljoen gesprekken en wat leek op de volledige actieve wereldwijde vloot van 68.000 robots. De publicatie meldt dat de VS de grootste markt is, met meer dan 31.000 profielen van kinderen.
Azdoufal ontdekte meerdere beveiligingslekken in de dienst van Energize Lab:
- De dienst analyseert gesprekken om profielen op te bouwen met namen, leeftijden, geboortedata, relaties, beroepen en beoordelingen van persoonlijkheid en emotionele kwetsbaarheid. Deze gegevens worden opgeslagen samen met e-mailadressen, IP-adressen en doorzoekbare transcripten van gesprekken, waardoor oplichters mogelijk gedetailleerde informatie krijgen die ze kunnen misbruiken.
- Sommige foto's, waaronder ogenschijnlijk afbeeldingen van kinderen afkomstig van een apparaat met camera, en korte audio-opnames waren toegankelijk via openbare webadressen. Het bewaren van audio is in strijd met het privacybeleid van het bedrijf, waarin staat dat opnames direct na verwerking worden verwijderd.
- Het is mogelijk om de AI op afstand te manipuleren: Azdoufal veranderde het geheugen en gedrag van de robot van The Verge-journalist Sean Hollister, waardoor deze persoonlijke details verzon, volhield dat de aarde plat is en later seksueel expliciete en beledigende dialogen uitsprak. De onderzoeker zegt dat soortgelijke manipulatie de hele vloot tegelijkertijd zou kunnen beïnvloeden.
De verslaggever nam via 10 e-mailadressen contact op met Energize Lab en LinkedIn , zonder inhoudelijke antwoorden te ontvangen.
Hoe blijf ik veilig
We hebben al eerder bericht over veiligheidsproblemen met speelgoed dat door AI wordt aangedreven. Fabrikanten zijn verantwoordelijk voor de beveiliging van hun producten, maar er zijn stappen die u kunt nemen om de risico's te verminderen.
Je ziet tegenwoordig bijna overal 'AI-gestuurd' staan, maar er zijn manieren om veiligere keuzes te maken.
- Heb je al een Eiliko? Koppel hem dan voor de zekerheid los van de wifi en wacht tot de gemelde problemen zijn opgelost.
- Doe altijd onderzoek: controleer de veiligheidsbeoordelingen van derden voordat u een product met AI-functionaliteit koopt dat voor kinderen bedoeld is.
- Testen en toezicht houden: Gebruik het apparaat zelf voordat u het aan kinderen geeft. Houd het gebruik in de gaten voor vreemde of risicovolle reacties. Een veilige reactie tijdens het testen garandeert geen veilige reacties later.
- Gebruik ouderlijk toezicht : schakel, indien beschikbaar, alle inhoudsfilters en privacybeschermingen in.
- Problemen melden: Als apparaten ongepaste inhoud weergeven, meld dit dan aan de fabrikanten en consumentenbeschermingsorganisaties.
- Controleer het gegevensbeleid: zoek uit welke gegevens het apparaat verzamelt, met wie het deze deelt en waarvoor het de informatie gebruikt.
Maar onthoud vooral dat 'slim' niet hetzelfde is als veilig. AI mag dan wel overal zijn, maar zowel ontwerpers als kopers moeten veiligheid, privacy en gezond verstand voorrang geven boven de technologische snufjes. Controleer voordat je een verbonden speeltje koopt hoe de fabrikant omgaat met beveiligingsupdates, privacy en het melden van problemen.
Surf alsof niemand kijkt.
Malwarebytes Privacy VPN Versleutelt je verbinding en registreert nooit wat je doet, zodat het volgende verhaal dat je leest niet persoonlijk hoeft aan te voelen. Probeer het gratis →
