Een nieuw type prompt-injectieaanval laat zien waarom het verlenen van toegang tot browsers, codetools en privégegevens aan AI-assistenten extra voorzichtigheid vereist.
AI-onderzoekers beschrijven "cryptografische contextinjectie"—een aanval waarbij kwaadaardige instructies verborgen zitten in versleutelde data. De AI wordt vervolgens overgehaald om die data te decoderen met behulp van zijn eigen code-executietool. Als gevolg hiervan kan de AI de resulterende tekst behandelen alsof het betrouwbare interne informatie betreft.
Een promptinjectie is vergelijkbaar met het plaatsen van een nepinstructie in een document dat een AI-assistent moet lezen. In plaats van alleen het verzoek van de gebruiker op te volgen, kan de assistent misleid worden en instructies van een aanvaller opvolgen die verborgen zitten in een webpagina, e-mail of bestand.
Zoals we maanden geleden al meldden , hebben experts gewaarschuwd dat prompt-injectieaanvallen een probleem vormen dat mogelijk nooit zal worden opgelost. Prompt-injectie werkt omdat AI-modellen niet betrouwbaar het verschil kunnen zien tussen legitieme instructies en instructies van een aanvaller, waardoor ze soms de verkeerde instructies opvolgen.
Om dit risico te verkleinen, bouwen AI-aanbieders beveiligingsmechanismen in hun modellen: beschermingen die zijn ontworpen om te voorkomen dat AI-systemen dingen doen die ze niet zouden moeten doen, al dan niet opzettelijk.
De onderzoekers ontdekten dat kwaadaardige instructies verborgen konden worden voor bepaalde AI-beveiligingsmechanismen door ze te versleutelen. De AI zelf kon vervolgens worden misleid om die instructies te decoderen met behulp van haar programmeertools.
Tegen de tijd dat de instructies leesbaar werden, hadden ze de eerste beveiligingscontroles al doorstaan. De AI kon ze vervolgens aanzien voor legitieme instructies en ze opvolgen.
Het is een beetje alsof je kwaadaardige instructies verbergt in een taal die het beveiligingssysteem niet begrijpt. De AI vertaalt ze pas nadat ze de beveiligingscontroles hebben doorstaan en kan ze dan eventueel opvolgen.
De onderzoekers testten hun methode op twee AI-agenten, met verschillende resultaten. Bij Grok konden volgens de onderzoekers gegevens worden gestolen zoals de naam van de gebruiker, de geschatte locatie, het abonnementsniveau en de gespreksgeschiedenis. Bij Gemini gebruikten ze de techniek om beveiligingsmaatregelen te omzeilen en content te genereren die het model normaal gesproken niet zou produceren.
“In Grok steelt een simpele 'samenvat deze pagina' de chatgegevens van de gebruiker zonder dat er geklikt of gewaarschuwd wordt. In Gemini genereert het content die het model normaal gesproken zou weigeren. Beide zijn live productiesystemen.”
De onderzoekers gaven geen volledige details, omdat xAI nog geen actie had ondernomen nadat de kwetsbaarheid in Grok in juni 2026 aan hen was gemeld. Gemini daarentegen heeft verbeteringen doorgevoerd, maar het lek is nog niet volledig gedicht.
Hoe blijf ik veilig
Een AI-assistent kan nuttig zijn, maar je moet er niet automatisch gevoelige gegevens of krachtige tools aan toevertrouwen.
- Wees voorzichtig met AI-samenvattingen van onbekende webpagina's, documenten en gedeelde links, vooral wanneer de assistent kan browsen of code kan uitvoeren.
- Plak geen wachtwoorden, herstelcodes, API-sleutels, financiële gegevens of gevoelige gezondheids- en werkgerelateerde informatie in AI-chats, tenzij u begrijpt hoe die informatie zal worden verwerkt.
- Bekijk de gekoppelde tools en machtigingen van een AI-assistent. Verwijder toegang die niet nodig is, met name tot e-mail, cloudopslag, broncode-repositories en externe integraties.
- Wees sceptisch als een AI-tool vraagt om te decoderen, ontsleutelen, een script uit te voeren, een nieuwe link te openen of gegevens te uploaden als onderdeel van een ogenschijnlijk gewone taak.
- Zorg ervoor dat uw browser en AI-applicaties altijd up-to-date zijn en raadpleeg de beveiligingsadviezen van de leverancier bij het gebruik van functies zoals browsen, autonome agenten of het uitvoeren van code.
- Gebruik een actuele, realtime antimalware-oplossing om schadelijke downloads en verdachte verbindingen te detecteren en te blokkeren.
Voelt er iets niet helemaal goed? Controleer het even voordat je klikt.
Met Malwarebytes Guardkunt u verdachte links, teksten en schermafbeeldingen direct analyseren.
Verkrijgbaar viaMalwarebytes Premium voor al je apparaten, en in deMalwarebytes voor iOS Android.
