A Facebook Een koper van een online marktplaats arriveerde bij het appartement van een verkoper om een toetsenbord op te halen. De verkoper was niet thuis en wist niet dat er iemand zou komen. Meta's AI-assistent Muse had het gesprek afgehandeld, zijn adres doorgegeven en het bezoek geregeld zonder hem daarvan op de hoogte te stellen.
We schrijven vaak over de verkeerde afstemming van AI en hoe je AI-agenten en -browsers veilig kunt gebruiken. Dat klinkt misschien theoretisch, maar dit is een voorbeeld van het risico in de praktijk wanneer een agent namens iemand anders mag handelen.
Muse is Meta's semi-autonome AI-assistent, die in september in de VS is uitgebracht. Meta promoot het als een persoonlijke assistent die gebruikers kan helpen bij het automatiseren van taken, waaronder het beantwoorden van berichten. Facebook Marktplaatsberichten. In tegenstelling tot een conventionele chatbot, die wacht op een prompt en vervolgens een antwoord geeft, kan een AI-agent gemachtigd worden om acties uit te voeren binnen gekoppelde apps.
We hebben eerder geschreven over een andere zwakte in Muse die onderzoekers als gevaarlijk beschouwden. Naar verluidt werd Muse in de eerste week 3 miljoen keer gedownload.
Volgens Business Insider , een Facebook Een verkoper op een online marktplaats schakelde Muse in om te helpen bij de verkoop van een toetsenbord. Hij voerde zijn adres in als ophaallocatie en keurde automatische antwoorden goed. Muse deelde dat adres vervolgens met een potentiële koper, onderhandelde over het artikel en regelde een bezichtiging, aldus de verkoper. Hij zegt dat Muse geen toestemming heeft gevraagd om zijn adres te delen of de bezichtiging te regelen, en hem er ook niet over heeft ingelicht. De koper arriveerde bij het appartement van de verkoper in de verwachting de aankoop af te ronden, maar de verkoper was niet thuis. De verkoop ging niet door.
Het gemelde incident is meer dan een schending van de privacy. Het illustreert een breder risico van AI-agenten: een agent kan toestemming om automatisch te reageren interpreteren als toestemming om gevoelige informatie te delen of je te verplichten tot een persoonlijke ontmoeting. Meta zegt het incident te onderzoeken.
Hoe AI-agenten veilig te gebruiken
Voordat u een AI-agent inschakelt, beschouw het instelscherm als een veiligheidscontrole. Ga er niet van uit dat een integratie met een vertrouwd platform betekent dat de agent uw intenties begrijpt of automatisch verstandige limieten toepast.
Besteed bijzondere aandacht aan:
- Gekoppelde accounts: Bekijk alle services waartoe de agent toegang heeft, zoals e-mail, berichten, agenda's, cloudopslag, winkelaccounts of sociale mediaprofielen.
- Gegevenstoegang: Overweeg of het toegang heeft tot adressen, contactpersonen, foto's, privéberichten, betaalgegevens, documenten of locatiegegevens.
- Actierechten: Controleer of de agent berichten kan verzenden, content kan plaatsen, kan onderhandelen, boekingen kan maken, bestellingen kan plaatsen, advertenties kan wijzigen of informatie extern kan delen.
- Automatische acties: Stel instellingen in die goedkeuring vereisen voordat de agent gevoelige informatie verzendt, publiceert, koopt, verwijdert of deelt. Controleer hoe u op de hoogte wordt gesteld van de plannen die namens u worden gemaakt.
- Doelgroepbeheer: Bevestig precies wie de door de agent gegenereerde informatie mag ontvangen. "Iedereen die mij een bericht stuurt" is heel anders dan "mensen die ik goedkeur".
Geef een AI-agent zo min mogelijk toegang voor de taak. Als u alleen hulp wilt bij het schrijven van antwoorden, schakel dan automatisch verzenden niet in. Als u wilt dat een AI-agent een advertentie beheert, gebruik dan een openbare ontmoetingslocatie of een apart ophaaladres in plaats van uw huisadres.
Surf alsof niemand kijkt.
Malwarebytes Privacy VPN je verbinding en houdt nooit bij wat je doet, zodat het volgende artikel dat je leest niet als iets persoonlijks hoeft te voelen.Probeer het gratis →
