Chatbots voor klantenservice hebben maar één taak: de gebruiker geven wat hij of zij vraagt, zonder een mens lastig te vallen. De nieuwe AI-ondersteuningsassistent van Meta nam die opdracht iets te serieus. De afgelopen maanden hebben aanvallers chatgesprekken met de chat geopend en de bot verteld dat ze geen toegang meer hadden tot bepaalde systemen. Instagram Rekeningen die niet van hen waren, en er vervolgens met de sleutels vandoor gaan.
Afgelopen weekend bracht Meta een noodpatch uit nadat Instagram De accounts van het Witte Huis onder Obama (inmiddels inactief), cosmeticaketen Sephora en een hoge functionaris van de Amerikaanse ruimtevaartmacht werden gehackt en kortstondig beklad met pro-Iraanse afbeeldingen. Ook beveiligingsonderzoeker en voormalig Meta-medewerker Jane Manchun Wong werd getroffen.
Hoe de truc werkte
De aanval was eenvoudig. De aanvallers achterhaalden waar de accounteigenaar woonde (er zijn online lijsten met woonplaatsen van accounteigenaren te vinden, of ze konden gewoon onderzoek doen naar het doelwit). Vervolgens gebruikten ze een VPN om de geografische regio van het doelaccount te evenaren, waardoor er geen argwaan ontstond. Instagram de beveiligingssystemen van 's.
Vervolgens startten ze een standaardprocedure voor het opnieuw instellen van het wachtwoord en openden ze de supportchat. Ze vroegen de AI-bot die ondersteuning bood om het e-mailadres van het account te wijzigen, en dat deed de bot ook: hij stuurde een eenmalige code rechtstreeks naar de inbox van de aanvaller.
Hiervoor lijkt de chatbot te zijn gekoppeld aan de accountbeheersystemen van Meta, met toestemming om wijzigingen aan accounts door te voeren, maar zonder dat hem is geleerd hoe hij kan controleren of hij daadwerkelijk met de echte accounteigenaar communiceert. Beveiligingsexperts hebben daar een term voor:„confused deputy“. Deze term bestaat al sinds de jaren tachtig.
Eerlijk gezegd waren de aanvallers succesvol, zelfs toen de verbeterde beveiliging was geactiveerd. Ze maakten blijkbaar video's. deepfakes van hun doelwitten met behulp van beelden die afkomstig waren van – je raadt het al – Instagram .
Meta is in zijn eigen AI-val gelopen
Meta heeft personeel ingekrompen en flink geïnvesteerd in AI, en heeft eerder dit jaar zijn door AI aangestuurde ondersteuningsassistent gelanceerd om te helpen bij het herstellen van accounts en andere ondersteuningsverzoeken.
Het nadeel is dat de AI blijkbaar de mogelijkheid heeft gekregen om handelingen uit te voeren, zoals het wijzigen van e-mailadressen en het opnieuw instellen van wachtwoorden, zonder dat er voldoende veiligheidsmaatregelen zijn getroffen om eerst de identiteit van de gebruiker te verifiëren.
Andy Stone, directeur van Meta Communications, zei hierover: X Het probleem is opgelost en de getroffen accounts worden beveiligd. Het bedrijf heeft niet bekendgemaakt hoeveel accounts er precies zijn getroffen.
Wat echt werkte
Waarom zou iemand een hack willen uitvoeren? Instagram Waarom zou je überhaupt een account kapen? Wraak kan een drijfveer zijn, maar vaker wel dan niet is financieel gewin het doel. Kapers hebben bedrijven gechanteerd die voor hun marketing afhankelijk zijn van die accounts.
Aanvallers die deze techniek gebruiken, zijn ook gespot bij het aanvallen van "OG"-accounts met korte of zeer gewilde gebruikersnamen. Als je lid bent geworden Instagram Als je het vroeg registreert en een makkelijk te onthouden gebruikersnaam kiest, kan het op illegale markten duizenden dollars waard zijn.
Wat kun je doen om jezelf te beschermen?
Een aloude tip geldt nog steeds: schakel meervoudige authenticatie (MFA) in. Volgens de ervaren cyberbeveiligingsverslaggever Brian Krebs mislukte de aanval op accounts waarvoor MFA was ingeschakeld, waaronder accounts die gebruikmaakten van sms-codes.
Dat betekent niet dat MFA perfect is, maar het biedt wel een belangrijke extra beveiligingslaag.
Het praktische advies is dus niet bepaald glamoureus:
- Open Instagram 's Instellingen
- Ga naar je Meta Accounts Center
- Schakel tweefactorauthenticatie in. Een authenticatie-app is beter dan een sms, maar beide zijn beter dan niets.
Doe het nu, want het is misschien nog niet voorbij. TheCyberSecGuru meldt dat er een nieuwe aanval circuleert, deze keer met behulp van een Android emulator genaamd BlueStacks die een aangepaste versie draait van Instagram om nieuwe prompts te versturen met verborgen tekens die bedoeld zijn om de AI te manipuleren.
Verwacht nog meer misstappen van ‘behulpzame’ bots
Dit zal niet de laatste aanval op AI-chatbots zijn. Naarmate meer bedrijven AI gaan gebruiken om de kosten voor klantenondersteuning te verlagen, zal hun kwetsbaarheid toenemen en zullen ze tal van fouten maken bij hun pogingen om een evenwicht te vinden tussen veiligheid en functionaliteit.
Het Meta-beveiligingslek is verholpen, maar het ‘confused deputy’-concept niet. En er is niets zo schadelijk als een verwarde AI die de sleutels tot je digitale leven in handen heeft.
Oplichters hoeven je computer niet te hacken. Ze hoeven je maar één keer te laten klikken.
Malwarebytes Identity Theft Protection detecteert verdachte activiteiten voordat ze een probleem worden.
