Elke consumentenapp heeft een instellingenmenu waarmee je keuzes kunt maken over zaken als meldingen of de donkere modus. Meta heeft zojuist besloten dat iedereen AI-afbeeldingen van jou kan genereren op basis van je openbare Instagram door je Instagram in een prompt in te voeren.
Op 7 juli lanceerde Meta zijn AI-model voor het genereren van afbeeldingen, Muse Image. Het model is geïntegreerd met openbare Instagram . Het enige wat iemand nu hoeft te doen, is jouw account in een prompt te taggen, waarna hij of zij Meta AI kan gebruiken om een afbeelding te genereren waarin jouw gelijkenis is verwerkt. Volgens het beleid van Meta krijg je hiervan geen melding als iemand dit doet, waardoor het moeilijk is om te weten wanneer en hoe jouw gelijkenis is gebruikt.
Volgens Meta is Muse Image bedoeld om het genereren van afbeeldingen Instagram persoonlijker te maken door mensen de mogelijkheid te bieden in hun prompts te verwijzen naar openbare Instagram . Dat klinkt misschien leuk als je afbeeldingen van jezelf maakt. Het is echter minder aantrekkelijk als iemand anders hetzelfde kan doen met jouw account.
Bij Meta kun je je hiervoor afmelden, hoewel het vinden van de instelling een hele zoektocht op zich is. Open op Instagram ‘Profiel’ > ‘Menu’ > ‘Delen en hergebruiken’. Schakel onder ‘Mensen toestaan je inhoud op Instagram met AI-functies bij Meta te hergebruiken’ de schakelaars voor ‘Berichten’ en ‘Reels’ uit. Afhankelijk van je app-versie kan de tekst variëren, en de functie wordt nog steeds uitgerold, te beginnen in de VS, dus het kan zijn dat je de instelling nog niet ziet.
Je zou hopen dat Meta je bij het openen Instagram meteen met een grote, opvallende melding zou laten weten: „Schakel dit uit als je het niet wilt”, maar dat is helaas niet het geval. Je zou ook hopen dat het bedrijf alle foto’s die iemand van je heeft gemaakt voordat je je afmeldde, met terugwerkende kracht zou verwijderen, maar ook dat gebeurt niet.
Als je deze optie uitschakelt, wordt alleen het genereren van nieuwe afbeeldingen in de toekomst voorkomen. Alle AI-afbeeldingen die iemand heeft gemaakt voordat je de instelling hebt uitgeschakeld, blijven nog steeds in omloop.
De enige manier die enigszins in de buurt komt van volledige bescherming, is je account op ‘privé’ zetten.
Wat is het risico?
Dit heeft gevolgen voor de privacy en de veiligheid. Iedereen kan nu zonder jouw medeweten AI-afbeeldingen genereren op basis van je openbare Instagram , en Meta zal je hier niet van op de hoogte stellen. Openbare Instagram werden al door aanvallers verzameld om deepfakes te maken deepfakes identiteitsfraude. Door mensen een officiële manier te bieden om AI-afbeeldingen te genereren op basis van openbare profielen, wordt de drempel verlaagd voor het maken van synthetische afbeeldingen die kunnen worden gebruikt voor identiteitsfraude, oplichting of ander misbruik.
Cybercriminelen combineren generatieve AI nu al met geautomatiseerde tools om phishing en fraude op grotere schaal uit te voeren. Muse Image maakt het nog eenvoudiger om overtuigende afbeeldingen te genereren op basis van openbare identiteiten.
De AI van Meta heeft ook andere beveiligingsproblemen veroorzaakt. Eerder dit jaar brachten onderzoekers een „confused deputy“-kwetsbaarheid aan het licht in de AI-ondersteuningschatbot van Meta, waardoor deze wijzigingen aan accounts kon aanbrengen– waaronder het wijzigen van e-mailadressen en het resetten van wachtwoorden – zonder voldoende te controleren met wie hij in gesprek was. Het inschakelen van meervoudige authenticatie (MFA) leek dit probleem te verhelpen.
Meta hanteert ook een opt-out-benadering bij het trainen van zijn AI op basis van gegevens van Europese gebruikers. Het bedrijf baseert zich op de rechtsgrondslag van „gerechtvaardigde belangen“ uit de AVG om de gegevens van Europese gebruikers te verwerken voor AI-doeleinden, een standpunt waartegen privacyorganisatie NOYB bezwaar heeft gemaakt.
Bescherm jezelf
- Als je Instagram openbaar is, ga je naar Profiel > Menu. Tik onder ‘Hoe anderen met je kunnen communiceren’ op ‘Delen en hergebruiken’ en schakel vervolgens de instellingen voor het hergebruiken van posts en Reels uit onder ‘Mensen toestaan je inhoud op Instagram met AI-functies bij Meta te hergebruiken’. Het uitschakelen van deze instellingen voor hergebruik voorkomt alleen toekomstige AI-beeldgeneratie en hergebruik. Het verwijdert geen reeds bestaande, door AI gegenereerde inhoud of remixes.
- Schakel MFA in voor al je Meta-accounts. Het is een van de eenvoudigste manieren om je account te beveiligen als je wachtwoord in verkeerde handen valt.
- Als je de beste bescherming wilt die Meta momenteel biedt, zet je Instagram dan op ‘privé’. Het is een wat drastische oplossing, maar het voorkomt dat vreemden je openbare profiel als bronmateriaal gebruiken.
De eigen toezichtsraad van Meta heeft al aangegeven dat het bedrijf krachtigere detectietools en een betere aanduiding van door AI gegenereerde inhoud nodig heeft. Als het eigen bestuursorgaan van Meta zegt dat de beschermingsmaatregelen niet voldoende zijn, zouden consumenten daar aandacht aan moeten besteden.
Update 11 juli: Na brede kritiek op het gebied van privacy en toestemming heeft Meta gisteren bekendgemaakt dat het de functie „Muse Image“ heeft verwijderd, waarmee gebruikers AI-afbeeldingen konden genereren op basis van openbare Instagram . Het bedrijf verklaarde dat de functie„de plank misgeslagen“ haden niet langer beschikbaar is.
Oplichters hoeven je computer niet te hacken. Ze hoeven je maar één keer te laten klikken.
Malwarebytes Identity Theft signaleert verdachte activiteiten voordat ze tot een probleem leiden.
