Wat zou je inruilen voor een technologie die bijna alles kan? Voor veel mensen is het antwoord duidelijk: alles wat ze dachten te kunnen vertrouwen.
In slechts enkele jaren tijd hebben tools op basis van kunstmatige intelligentie (AI) mensen onbeperkte toegang gegeven tot eenvoudiger schrijven, snellere beeldgeneratie, vlotter programmeren en vrijwel onmiddellijke antwoorden, adviezen en informatie – voordelen die zij waarderen en graag willen. Maar dezelfde tools die een datingprofiel kunnen opfleuren of een oude foto een nieuw jasje kunnen geven, kunnen ook de bredere online wereld manipuleren, en dat begint mensen op te vallen.
Volgens nieuw onderzoek van Malwarebytes 88% van de mensen gaf aan dat het steeds moeilijker wordt om te bepalen welke online content echt door mensen is gemaakt, en 84% zei dat "overtuigend videobewijs" niet langer als bewijs aanvoelt. Bovendien zei 85% dat het lastig kan zijn om oplichting van echt te onderscheiden – een aanzienlijke stijging ten opzichte van de 66% die vorig jaar hetzelfde zei .
Dit zijn de eerste tekenen van de nepwereld van AI. Deze wereld, die bol staat van valse websites, valse producten, valse video’s, valse foto’s, valse stemmen en zelfs valse mensen, dreigt het internet te overspoelen.
Het laatste rapport van Malwarebytes “ Face value: How AI is reshaping trust, identity, and scams ” legt de verborgen kosten van AI voor het publiek bloot: een toename van fraude die het vertrouwen in de werkelijkheid en in elkaar ondermijnt.
De schade doet zich voor in grote en kleine dingen, van de Amerikaanse ouder die vertelde dat hij „een voicemail had ontvangen die precies klonk als de stem van mijn zoon, waarin hij zei dat hij in de problemen zat en geld nodig had voor juridische kosten“, tot de twee totaal onbekende respondenten die werden misleid door dezelfde door AI gegenereerde video van konijnen die op een trampoline springen, tot de persoon die zich zorgen maakte dat „mijn grootvader me AI-onzin liet zien en dacht dat het echt was“.
Voor dit onderzoek, Malwarebytes Er werden 1500 volwassenen van 18 jaar en ouder in de VS, het VK, Oostenrijk, Duitsland en Zwitserland ondervraagd over hun gebruik van, gevoelens over en zorgen met betrekking tot AI. De steekproef was gelijk verdeeld over geslachten, leeftijden, geografische regio's en etnische groepen, en gewogen om een evenwichtig beeld te geven.
De volledige bevindingen zijn te vinden in het volledige rapport:
Hier volgen enkele van de belangrijkste conclusies en bevindingen:
- 88% zei dat het steeds moeilijker wordt om te bepalen welke online content echt door mensen is gemaakt of echt is
- 84% zei dat overtuigend videomateriaal niet langer als bewijs wordt gezien
- 85% van de mensen gaf aan dat het moeilijk is om een oplichterij van het echte werk te onderscheiden (een stijging ten opzichte van 66% vorig jaar)
- 50% heeft te maken gehad met een of andere vorm van AI-fraude of -oplichting, bijvoorbeeld door misleid te worden door door AI gegenereerde foto’s van producten of door een zeer persoonlijk opgesteld oplichtingsbericht te ontvangen
- 19% heeft specifiek te maken gehad met een vorm van identiteitsschade als gevolg van AI, waaronder de 10% van wie iemand zonder toestemming AI heeft gebruikt om seksueel expliciete beelden van hen te genereren
- 81% is bang dat iemand de identiteit van hun gezin zal stelen, maar slechts 13% heeft een gezinswachtwoord bedacht om dit te voorkomen
- 67% maakt zich zorgen over het klonen van stemmen, maar slechts 19% heeft de voicemailopnames uitgeschakeld om dit te voorkomen
- 45% vindt het prima om AI te gebruiken voor persoonlijke, emotionele taken (zoals het schrijven van huwelijksgeloften of een grafrede)
- 34% vindt het prima om AI te gebruiken bij het aanmaken of verbeteren van een datingprofiel
- Een op de drie mensen die aangaven dagelijks gebruik te maken van AI, zei dat het acceptabel is om expliciete afbeeldingen van iemand te genereren zonder diens toestemming
Een nederlaag zou de verkeerde conclusie zijn die je hieruit zou moeten trekken. Het klopt dat je op het internet wel hulp nodig hebt, maar er zijn genoeg veilige plekken waar je die kunt vinden.
Terwijl Malwarebytes Terwijl we werken aan het leveren van nieuwe tools, willen we zowel degenen die angstig als enthousiast zijn over AI, herinneren aan de eerste regel van het internet: vergeet de mens niet. De stem, het lichaam, de keuzes en de autonomie van mensen behoren hen toe, en niemand anders.
Wat betreft alle neppe video’s, producten, websites en afbeeldingen: weet dat er hulp beschikbaar is. Niemand hoeft zich in zijn eentje een weg te banen door een wereld vol nep. Of het nu gaat omhet herkennen van oplichting, identiteitsbescherming of gewoon bewustwording: mensen hebben meer mogelijkheden dan ze misschien beseffen.
