Elke consumentenapp heeft een instellingenmenu waarmee je keuzes kunt maken over zaken als meldingen of de donkere modus. Meta heeft zojuist besloten dat iedereen AI-afbeeldingen van jou kan genereren op basis van je openbare Instagram door je Instagram in een prompt in te voeren.
Op 7 juli lanceerde Meta zijn AI-model voor het genereren van afbeeldingen, Muse Image. Het model is geïntegreerd met openbare Instagram . Het enige wat iemand nu hoeft te doen, is jouw account in een prompt te taggen, waarna hij of zij Meta AI kan gebruiken om een afbeelding te genereren waarin jouw gelijkenis is verwerkt. Volgens het beleid van Meta krijg je hiervan geen melding als iemand dit doet, waardoor het moeilijk is om te weten wanneer en hoe jouw gelijkenis is gebruikt.
Volgens Meta is Muse Image bedoeld om het genereren van afbeeldingen Instagram persoonlijker te maken door mensen de mogelijkheid te bieden in hun prompts te verwijzen naar openbare Instagram . Dat klinkt misschien leuk als je afbeeldingen van jezelf maakt. Het is echter minder aantrekkelijk als iemand anders hetzelfde kan doen met jouw account.
Meta biedt je de mogelijkheid om je hiervoor af te melden, hoewel het vinden van de instelling een hele zoektocht op zich is. Ga op Instagram naar Instellingen en activiteit > Delen en hergebruik, en schakel vervolgens de instelling uit waarmee anderen AI-afbeeldingen met jou kunnen maken. Afhankelijk van je app-versie kan de formulering variëren, en de functie wordt momenteel nog uitgerold, te beginnen in de VS, dus het kan zijn dat je de instelling nog niet ziet.
Je zou hopen dat Meta je bij het openen Instagram meteen met een grote, opvallende melding zou laten weten: „Schakel dit uit als je het niet wilt”, maar dat is helaas niet het geval. Je zou ook hopen dat het bedrijf alle foto’s die iemand van je heeft gemaakt voordat je je afmeldde, met terugwerkende kracht zou verwijderen, maar ook dat gebeurt niet.
Als je deze optie uitschakelt, wordt alleen het genereren van nieuwe afbeeldingen in de toekomst voorkomen. Alle AI-afbeeldingen die iemand heeft gemaakt voordat je de instelling hebt uitgeschakeld, blijven nog steeds in omloop.
De enige manier die enigszins in de buurt komt van volledige bescherming, is je account op ‘privé’ zetten.
Wat is het risico?
Dit heeft gevolgen voor de privacy en de veiligheid. Iedereen kan nu zonder jouw medeweten AI-afbeeldingen genereren op basis van je openbare Instagram , en Meta zal je hier niet van op de hoogte stellen. Openbare Instagram werden al door aanvallers verzameld om deepfakes te maken deepfakes identiteitsfraude. Door mensen een officiële manier te bieden om AI-afbeeldingen te genereren op basis van openbare profielen, wordt de drempel verlaagd voor het maken van synthetische afbeeldingen die kunnen worden gebruikt voor identiteitsfraude, oplichting of ander misbruik.
Cybercriminelen combineren generatieve AI nu al met geautomatiseerde tools om phishing en fraude op grotere schaal uit te voeren. Muse Image maakt het nog eenvoudiger om overtuigende afbeeldingen te genereren op basis van openbare identiteiten.
De AI van Meta heeft ook andere beveiligingsproblemen veroorzaakt. Eerder dit jaar brachten onderzoekers een „confused deputy“-kwetsbaarheid aan het licht in de AI-ondersteuningschatbot van Meta, waardoor deze wijzigingen aan accounts kon aanbrengen– waaronder het wijzigen van e-mailadressen en het resetten van wachtwoorden – zonder voldoende te controleren met wie hij in gesprek was. Het inschakelen van meervoudige authenticatie (MFA) leek dit probleem te verhelpen.
Meta hanteert ook een opt-out-benadering bij het trainen van zijn AI op basis van gegevens van Europese gebruikers. Het bedrijf baseert zich op de rechtsgrondslag van „gerechtvaardigde belangen“ uit de AVG om de gegevens van Europese gebruikers te verwerken voor AI-doeleinden, een standpunt waartegen privacyorganisatie NOYB bezwaar heeft gemaakt.
Bescherm jezelf
- Als je Instagram openbaar Instagram , ga dan naar Instellingen en activiteit > Delen en hergebruik en schakel de schakelaar voor AI-generatie nu uit. Let op: dit voorkomt alleen dat er in de toekomst nog afbeeldingen worden gegenereerd.
- Schakel MFA in voor al je Meta-accounts. Het is een van de eenvoudigste manieren om je account te beveiligen als je wachtwoord in verkeerde handen valt.
- Als je de beste bescherming wilt die Meta momenteel biedt, zet je Instagram dan op ‘privé’. Het is een wat drastische oplossing, maar het voorkomt dat vreemden je openbare profiel als bronmateriaal gebruiken.
De eigen toezichtsraad van Meta heeft al aangegeven dat het bedrijf krachtigere detectietools en een betere aanduiding van door AI gegenereerde inhoud nodig heeft. Als het eigen bestuursorgaan van Meta zegt dat de beschermingsmaatregelen niet voldoende zijn, zouden consumenten daar aandacht aan moeten besteden.
Oplichters hoeven je computer niet te hacken. Ze hoeven je maar één keer te laten klikken.
Malwarebytes Identity Theft signaleert verdachte activiteiten voordat ze tot een probleem leiden.
