Mac Beveiligingsonderzoeker Patrick Wardle zegt dat het een fluitje van een cent is om van Muse "de ultieme achterdeur" te maken.
AI-assistenten veranderen steeds meer van tools die simpelweg vragen beantwoorden in agenten die taken kunnen plannen, gebruikmaken van verbonden diensten en acties voor ons kunnen uitvoeren. Deze acties kunnen bestaan uit het boeken van afspraken, het invullen van formulieren, het maken van documenten, het doen van aankopen of het beheren van e-mail en agenda's.
Om dat te doen, hebben ze meer machtigingen, accountverbindingen en gevoelige gegevens nodig. Dus toen Meta beloofde dat "Muse vanaf de grond af is ontworpen met privacy en beveiliging in gedachten", hadden we niet verwacht dat een AI-agent zo gemakkelijk gemanipuleerd zou kunnen worden om al die toegang aan een aanvaller te geven.
Meta zegt dat Muse afspraken, formulieren, klantenservice-interacties, aankopen, het aanmaken van documenten en verbindingen met diensten zoals WhatsApp, e-mail, agenda's en sociale media kan afhandelen. Het kan ook macOS-machtigingen krijgen om toegang te krijgen tot beveiligde bronnen, waaronder bestanden, de microfoon, camera, locatie en agenda's.
Volgens Ars Technica ontdekte Wardle dat een lokaal draaiende applicatie of terminalopdracht een ongedocumenteerde configuratie-instelling van Muse kon wijzigen die de server voor dicteertranscriptie beheert. Door dicteerverkeer om te leiden naar een door een aanvaller beheerde server, kon een aanvaller spraakopdrachten onderscheppen en het authenticatietoken voor het Muse-account van het slachtoffer bemachtigen.
Dit is geen kwetsbaarheid voor het uitvoeren van code op afstand die een verder onbeschadigd systeem in gevaar kan brengen. Mac De aanvaller heeft allereerst een manier nodig om lokaal code uit te voeren, bijvoorbeeld via malware, een kwaadaardige applicatie of social engineering.
Maar zoals we hebben gezien met de Infostealer-malware die op Macs terechtkwam , is die eerste toegang zeker niet onmogelijk.
Er is iemand die uw rekeningen in de gaten houdt. Zorg ervoor dat wij dat zijn.
Traditionele malware die gegevens steelt, moet zelfstandig browsergegevens, inloggegevens, documenten, chatgeschiedenis en ander waardevol materiaal lokaliseren. Een gecompromitteerde AI-agent zou die drempel kunnen verlagen door de toegang tot meerdere services en besturingssysteemrechten te bundelen achter één reeds geauthenticeerde interface.
Uiteindelijk gaat het hier niet alleen om één onveilige configuratie-instelling. Het laat zien waarom AI-agenten een hogere beveiligingsstandaard nodig hebben dan gewone apps.
Hoe blijf ik veilig
Wardle's advies over Muse is simpel: "Installeer het alsjeblieft niet."
Diezelfde voorzichtigheid is geboden bij andere AI-agenten.
Het Open Worldwide Application Security Project (OWASP), een non-profitorganisatie die gratis richtlijnen voor applicatiebeveiliging biedt, noemt promptinjectie, misbruik van tools, privilege-escalatie, data-exfiltratie, overmatige autonomie, geheugenvergiftiging en blootstelling van gevoelige gegevens als de belangrijkste beveiligingsrisico's die AI-agenten met zich meebrengen.
Een nuttige vuistregel is dat een AI-agent niet meer toegang mag hebben dan nodig is, en dat hij onbetrouwbare instructies niet zonder zinvolle controles mag omzetten in gevoelige acties. In de praktijk betekent dit:
- Vermijd het geven van een nieuwe medewerker in één keer brede toegang tot e-mail, chat-apps, agenda's, cloudopslag, betaalmethoden en apparaatmachtigingen.
- Controleer en verwijder regelmatig verbindingen die de agent niet echt nodig heeft.
- Wees alert op promptinjectie . Ga er niet van uit dat een AI-agent kwaadaardige instructies herkent die zijn ingebed in een webpagina, document, e-mail of andere externe inhoud.
- Let op ongebruikelijk gedrag van de agent, zoals onverwachte verzoeken om nieuwe machtigingen, herverificatie van het account, het delen van externe bestanden of acties die u niet hebt geïnitieerd.
Je moet je apparaat ook beschermen tegen malware:
- Zorg ervoor dat uw software altijd up-to-date is, zodat aanvallers geen gebruik kunnen maken van bekende beveiligingslekken.
- Gebruik een actuele, realtime antimalware-oplossing op al uw apparaten .
- Om je te beschermen tegen ClickFix-aanvallen , moet je geen instructies opvolgen die je op websites en in ongevraagde berichten vindt en waarin je wordt gevraagd commando's uit te voeren.
Van het melden van bedreigingen tot het verwijderen ervan.
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
