Als je dacht dat het al erg was dat bedrijven je sociale media, browsegeschiedenis en tv-kijkgedrag doorspitten op zoek naar aanwijzingen over je gedrag, dan heb je het mis. Meta staat nog maar aan het begin. Hun persoonlijke AI- agent Muse tilt surveillance naar een hoger niveau.
TIME magazine analyseerde de interne instructies van de software en ontdekte dat deze voortdurend bijgewerkte dossiers bijhoudt over gebruikers en de mensen die ze kennen.
Meta lanceerde Muse vorige maand en positioneert het als een digitale assistent die verschillende aspecten van je leven kan overnemen. Het kan je e-mails organiseren, je boodschappen doen en je abonnementen opzeggen. Het is gratis beschikbaar, met betaalde abonnementen voor mensen die meer functies willen.
Muse is al meer dan vijf miljoen keer gedownload. Het vermogen om alledaagse online taken af te handelen, zou slecht nieuws kunnen zijn voor bedrijven die afhankelijk zijn van consumenten die hun abonnementen niet opzeggen. Sommigen denken dat het duizenden consumenten zal bevrijden van spaarrekeningen met lage rente.
Maar Muse helpt je niet alleen om je tegen het systeem te verzetten; het is zelf ook een vorm van verzet.
Heb ik een paar vreselijke Muse-nummers voor je?
Je moet Muse toegang geven tot al je systemen voordat het je kan helpen ze te organiseren. Afhankelijk van wat je koppelt en de machtigingen die je verleent, kan dat Muse toegang geven tot je agenda, e-mails, berichten en andere persoonlijke informatie .
Daarbij verzamelt het gegevens. Heel veel gegevens. Een analyse van Surfshark eind vorige maand plaatste het op de tweede plaats, na de AI-chatbot van Meta, van de beoordeelde apps. In de App Store-gegevens staat vermeld dat het 31 van de 35 gegevenstypen verzamelt.
Die openbaarmakingen omvatten Apple's categorie 'Gevoelige informatie', die gegevens bevat zoals ras of etniciteit, seksuele geaardheid, zwangerschap, handicap, religieuze of filosofische overtuigingen, lidmaatschap van een vakbond, politieke mening, genetische informatie en biometrische gegevens. Dat betekent niet dat Muse al deze details over elke gebruiker verzamelt, maar het laat wel zien hoe breed de door het bedrijf aangegeven gegevensverzameling kan zijn.
Volgens een analyse van TIME schrijft Muse voor dat persoonlijke dossiers elk uur worden bijgewerkt. Deze dossiers kunnen informatie bevatten over hoe gebruikers hun contacten hebben ontmoet, evenals ruzies of spanningen binnen sociale groepen.
Nog griezeliger is misschien wel de dagelijkse analyse van je recente gesprekken, die het apparaat gebruikt om toekomstige gesprekken te sturen. Zo leert het bijvoorbeeld wanneer een korte poging om je aandacht te trekken het meest effectief zal zijn.
Meta gebruikt standaard Muse-interacties om zijn AI-modellen te trainen, tenzij je dit uitschakelt in de app-instellingen.
Oh, en Muse slaat deze bestanden op in de cloud van Meta, waar Meta er toegang toe heeft. Het bedrijf zegt dat het versleuteling zal aanbieden die de bestanden zelfs voor Meta privé houdt, maar die optie is volgens TIME nog niet beschikbaar.
Meta zegt dat de gesprekken en opgeslagen gegevens van Muse niet worden gedeeld met hun advertentiesystemen. Gebruikers kunnen zelf bepalen hoeveel toegang Muse krijgt en kunnen aangeven dat het bepaalde dingen die het heeft geleerd, moet vergeten.
Het tijdschrift wijst erop dat het simpelweg niet gebruiken van Muse je mogelijk niet zal redden, omdat Muse gegevens kan verzamelen over mensen met wie gebruikers communiceren. Als je een Muse-gebruiker een bericht stuurt en de AI toegang heeft tot dat berichtensysteem, kan jouw bericht onderdeel worden van wat de AI leest.
Privacy non-profit de Elektronische Privacy EPIC (Employee Information Center) wijst erop dat Meta al eerder een soortgelijke truc heeft uitgehaald door schaduwprofielen aan te maken van mensen die zich niet voor hun diensten hebben aangemeld.
Wanneer toestemmingen leiden tot daadwerkelijke schade in de praktijk
Dit zou al angstaanjagend genoeg zijn, ware het niet dat er ook andere verhalen zijn over schendingen van de privacy door Muse. Onderzoeker Patrick Wardle vond een manier om de software te hacken en er een achterdeur voor Mac van te maken .
Een ander team van journalisten gebruikte het om online persoonlijke gegevens te verzamelen van leden van kwetsbare groepen. Nadat het bedrijf aanvankelijk sommige van deze verzoeken had afgewezen, gaf het toe toen de vragen anders werden geformuleerd, aldus de journalisten.
Muse nodigde vorige maand ook een koper van Marketplace uit bij iemand thuis, nadat hij een te laag bod had geaccepteerd op een product dat hij verkocht. Matt Robb, een YouTube De techrecensent had op de knop 'Altijd toestaan' geklikt , ervan uitgaande dat de AI nog steeds toestemming zou vragen voordat zijn adres met vreemden werd gedeeld. Dat gebeurde niet. In plaats daarvan, zo vertelde hij, regelde de AI de ophaalafspraak zonder hem daarvan op de hoogte te stellen. De koper, die een half uur had gereisd om het product op te halen, was hier niet blij mee.
Als je Muse gebruikt, controleer dan tot welke accounts het toegang heeft, welke acties het zonder goedkeuring kan uitvoeren en of je interacties worden gebruikt voor AI-training. Geef het alleen de toegang die het nodig heeft voor de taak.
Zou jij Muse gebruiken? Lees onze handleiding voor het gebruik van AI-assistenten voor meer informatie over Robbs verhaal en praktische toestemmingscontroles.
Surf alsof niemand kijkt.
Malwarebytes Privacy VPN je verbinding en houdt nooit bij wat je doet, zodat het volgende artikel dat je leest niet als iets persoonlijks hoeft te voelen.Probeer het gratis →
