Wat zijn deepfakes ?

Belangrijkste conclusies

• Deepfakes door kunstmatige intelligentie gegenereerde media (video’s, afbeeldingen of audio) die het uiterlijk of de stem van een persoon op realistische wijze nabootsen, waardoor het lijkt alsof die persoon iets heeft gezegd of gedaan wat hij of zij in werkelijkheid nooit heeft gedaan.
• Ze worden gemaakt met behulp van geavanceerde machine learning-technieken die echte gegevens analyseren om uiterst overtuigende neppe content te produceren, zoals gezichtsvervangingen, gemanipuleerde video’s en gekloonde stemmen.
• Deepfakes aanzienlijke risico’s Deepfakes , zoals desinformatie, fraude, identiteitsdiefstal, reputatieschade en manipulatie van de publieke opinie of financiële markten.
• Ze zijn vaak te herkennen aan subtiele onregelmatigheden, zoals onnatuurlijke gezichtsuitdrukkingen, geluid dat niet synchroon loopt, beeldstoringen of ongebruikelijke situaties en gedragingen.
• Bescherming houdt in dat je kritisch blijft ten opzichte van de media, bronnen controleert, detectietools gebruikt, verdachte inhoud meldt en vertrouwt op platforms en technologieën die zijn ontworpen om gemanipuleerde media te herkennen.

Wat is een deepfake ?

Al tientallen jaren proberen filmmakers de menselijke biologie te veranderen of te verbeteren met make-up, protheses en body doubles om hun scènes authentieker te laten aanvoelen. Maar tot moderne visuele-effectentechnologie (VFX) waren de resultaten wisselend. Van films als The Irishman en Captain Marvel tot Avengers: Endgame, VFX stelt artiesten in staat fysieke onmogelijkheden te overwinnen. Soms stelt Hollywood VFX filmmakers in staat de gezichten van acteurs te combineren met de lichamen van andere performers voor rollen waar ze nog niet klaar voor zijn of die ze niet kunnen uitvoeren.  

Maar zoals je je kunt voorstellen, is moderne VFX-technologie in Hollywood duur, complex en vereist veel detail. Het is duidelijk dat niet iedereen een budget van een paar honderd miljoen dollar heeft om een ​​VFX-studio in te huren. En hier komt het probleem naar voren. deepfake Technologie komt in beeld. Een " deepfake " verwijst naar media die het uiterlijk en/of de stem van een persoon nabootsen door middel van een vorm van kunstmatige intelligentie genaamd deep learning (vandaar de naam, deepfake ). Een Reddit-gebruiker die deelde deepfakes De term werd in 2017 op de site bedacht.

Deepfakes zijn doorgaans valse beelden, video's of geluidsopnamen. Je hebt waarschijnlijk populaire video's gezien van beroemdheden of politici die iets zeggen wat ze in werkelijkheid waarschijnlijk nooit zouden zeggen. Dit zijn veelvoorkomende voorbeelden van deepfakes. Het opkomen van deepfake video’s roept zorgen op over een mogelijke ‘leugenaarsdividend,’ waarbij misinformatie zich verspreidt, vertrouwen ondermijnt en de werkelijkheid vervormt.

Hoe werken deepfakes?

Deepfake-technologie maakt gebruik van geavanceerde kunstmatige intelligentie door middel van generatieve tegenstrijdige netwerken (GAN's), bestaande uit twee essentiële algoritmen: de generator en de discriminator. De generator begint het proces door de eerste nepinhoud te creëren op basis van een gewenst resultaat, gebruikmakend van een trainingsdataset. Ondertussen beoordeelt de discriminator de authenticiteit van deze inhoud, waarbij gebieden voor verbetering worden aangewezen. Deze iteratieve proces maakt het mogelijk voor de generator om zijn vermogen te vergroten om steeds realistischer inhoud te produceren, terwijl de discriminator beter wordt in het identificeren van discrepanties voor correctie.

GANs spelen een cruciale rol in de creatie van deepfakes door patronen in echte beelden te analyseren en deze patronen te repliceren in gefabriceerde inhoud. Voor foto's onderzoeken GAN-systemen meerdere hoeken van de afbeeldingen van het doelwit om uitgebreide details vast te leggen. Voor video's analyseren ze niet alleen hoeken maar ook gedrag, beweging en spraakpatronen. Deze veelzijdige analyse ondergaat talloze iteraties door de discriminator om de realiteit van het eindproduct te verfijnen.

Deepfake-video's ontstaan via twee primaire methoden: het manipuleren van een originele video om te veranderen wat het doelwit zegt of doet (bronvideo deepfakes) of het verwisselen van het gezicht van het doelwit met dat van een ander persoon (gezichtsvervangingen). Bronvideo deepfakes omvatten een op neurale netwerken gebaseerde auto-encoder die de video doorsnijdt om de gezichtsuitdrukkingen en lichaamstaal van het doelwit te begrijpen en vervolgens over de originele beelden te leggen. Voor audio wordt een vergelijkbaar proces gebruikt om iemands stem te klonen, zodat deze elke gewenste toespraak kan nabootsen.

Belangrijke technieken bij het maken van deepfakes zijn:

• Deepfakes van bronvideo's: Maak gebruik van een autoencoder met een encoder om kenmerken te analyseren en een decoder om deze kenmerken op de doelvideo toe te passen.
• Audio deepfakes: Gebruikt GANs om stempatronen na te bootsen, waarmee realistische stemreproducties mogelijk worden.
• Lip syncing: Stemopnamen matchen met video om de illusie te versterken dat de persoon de opgenomen woorden daadwerkelijk uitspreekt, extra ondersteund door terugkerende neurale netwerken voor meer realisme.

De creatie van deepfakes wordt mogelijk gemaakt door geavanceerde technologieën zoals convolutionele neurale netwerken (CNN's) voor gezichtsherkenning, autoencoders voor kenmerkoverdracht, natuurlijke taalverwerking (NLP) voor het genereren van synthetisch geluid en de rekenkracht die wordt geboden door hoogpresterende computersystemen. Tools zoals Deep Art Effects, Deepswap en FaceApp illustreren de toegankelijkheid van deepfake-generatie, en wijzen op een toekomst waarin overtuigende deepfakes binnen handbereik liggen voor velen.

Zijn deepfakes legaal?

In essentie zijn deepfakes niet per definitie illegaal; de legaliteit hangt grotendeels af van de inhoud en bedoeling ervan. Deze innovatieve technologie kan onwettig worden als het inbreuk maakt op bestaande wetten inzake kinderporno, laster, haatspraak of andere criminele activiteiten.

Tot nu toe zijn er maar weinig wetten die specifiek gericht zijn op deepfakes en deze verschillen aanzienlijk van land tot land. Echter, de verspreiding van deepfake-technologie roept zorgen op over de verspreiding van valse claims en hun impact op publiek vertrouwen en discussie. In de Verenigde Staten zijn al opmerkelijke uitzonderingen, waar sommige staten maatregelen hebben genomen om de schadelijke effecten van deepfake-technologie in te dammen:

• Texas: Deze staat heeft wetgeving aangenomen die de creatie en verspreiding van deepfakes verbiedt met de bedoeling om verkiezingen te beïnvloeden. Deze maatregel is bedoeld om de integriteit van het verkiezingsproces te beschermen door het verspreiden van misleidende of valse informatie over kandidaten via hyperrealistische nepvideo's of audioregistraties te voorkomen. Daarnaast heeft Texas een wet aangenomen die specifiek gericht is op seksueel expliciete deepfakes die zonder toestemming van de betrokken persoon worden verspreid, met als doel individuen te beschermen tegen leed of schaamte veroorzaakt door dergelijke inhoud. Beide overtredingen worden behandeld als een misdrijf van klasse A, met mogelijke straffen tot één jaar in gevangenis en boetes tot $4000.
• Virginia: Erkennend de persoonlijke en maatschappelijke schade veroorzaakt door deepfake pornografie, heeft Virginia specifiek het verspreiden van zulke inhoud verboden. Deze wet richt zich op deepfakes die individuen seksueel uitbuiten zonder hun toestemming, en biedt slachtoffers een juridische weg om gerechtigheid te zoeken. De verspreiding van wraakporno, inclusief deepfake-pornografie, wordt geclassificeerd als een Klasse 1 misdrijf, strafbaar met maximaal 12 maanden gevangenisstraf en een boete van maximaal $2.500.
• Californië: Met een focus op zowel de politieke als persoonlijke gevolgen van deepfakes, heeft Californië wetten aangenomen tegen het gebruik van deepfakes die kiezers willen misleiden binnen 60 dagen voor een verkiezing. Daarnaast is het illegaal geworden om niet-consensuele deepfake pornografie te maken en verspreiden, wat een groeiende zorg weerspiegelt over het gebruik van deze technologie om de privacy en waardigheid van individuen te schaden.

De lappendeken van regelgeving benadrukt een bredere uitdaging: veel mensen blijven onbewust van deepfake-technologie, de mogelijke toepassingen en de risico's die het met zich meebrengt. Deze kloof in bewustzijn draagt bij aan een juridische omgeving waarin slachtoffers van deepfakes, buiten specifieke scenario's die door staatswetten worden gedekt, vaak zonder duidelijke juridische mogelijkheden komen te staan. De evoluerende aard van deepfake-technologie en de implicaties ervan vereisen een beter geïnformeerde publieke opinie, evenals een uitgebreide juridische kaders om individuen te beschermen tegen mogelijk misbruik.

Hoe zijn deepfakes gevaarlijk?

Deepfake technologie is weliswaar innovatief, maar brengt aanzienlijke risico's met zich mee. Het gaat niet alleen om het creëren van valse afbeeldingen of video's; de implicaties strekken zich uit tot ernstige gebieden zoals:

• Persoonlijke veiligheid, waarbij individuen worden geconfronteerd met dreigingen zoals chantage.
• De integriteit van democratische processen, door het fabriceren van misleidende politieke inhoud.
• Financiële markten, vatbaar voor manipulatie door vervalste rapporten.
• Identiteitsdiefstal waarbij persoonlijke gegevens risico lopen misbruikt te worden.

Het veranderende landschap vereist een robuuste reactie, bestaande uit waakzaamheid, technologische oplossingen en juridische kaders om deze opkomende dreigingen tegen te gaan.

Hoe kun je deepfakes detecteren?

Detecteren deepfake Bij het schrijven van content is het belangrijk om aandacht te besteden aan specifieke visuele en tekstuele indicatoren. Hier zijn enkele belangrijke signalen om op te letten:

Visuele indicatoren:

• Ongewone gezichtsuitdrukkingen of ongemakkelijke houdingen.
• Onnatuurlijke bewegingen van het gezicht of lichaam.
• Inconsistente kleurenschema's in de video.
• Vreemde verschijningen bij inzoomen of vergroten.
• Niet-overeenkomend of inconsistent geluid.
• Gebrek aan natuurlijk knipperen bij mensen.

Textuele indicatoren:

• Spelfouten en grammaticaal incorrecte zinnen.
• Zinsstructuur die onnatuurlijk lijkt.
• E-mailadressen die verdacht overkomen.
• Formuleringen die niet overeenkomen met de verwachte stijl van de afzender.
• Berichten die buiten context of irrelevant zijn.

Houd daarnaast rekening met gedrags- en contextuele anomalieën:

• Tegenstrijdigheden in gedrag: Let op het gedrag en de maniertjes van de proefpersoon. Deepfakes kunnen subtiele persoonlijkheidskenmerken, gewoontebewegingen of emotionele reacties niet nauwkeurig reproduceren, waardoor de persoon een beetje vreemd overkomt.
• Contextuele anomalieën: Analyseer de context waarin de video of audio verschijnt. Afwijkingen in de achtergrond, onverwachte interacties met de omgeving, of anomalieën in de verhaallijn kunnen wijzen op manipulatie.

Dankzij de vooruitgang in AI kunnen deze signalen steeds beter worden gedetecteerd, maar het is essentieel om op de hoogte te blijven van deze indicatoren om ze te kunnen identificeren. deepfakes .

Hoe kun je je verdedigen tegen deepfakes?

Een belangrijke strategie bij de verdediging tegen deepfakes Dit houdt in dat geavanceerde technologie wordt gebruikt om deze vervalste media te identificeren en te blokkeren.

Overheidsinstanties zoals de US Department of Defense's Defense Advanced Research Projects Agency (DARPA) staan voorop in de ontwikkeling van geavanceerde oplossingen om echt van gemanipuleerd materiaal te onderscheiden. Evenzo gebruiken socialemedia-giganten en technologiebedrijven innovatieve methoden om de authenticiteit van de media die op hun platforms worden gedeeld te waarborgen.

Zo maken sommige platforms gebruik van blockchain-technologie om de oorsprong van video's en afbeeldingen te verifiëren, betrouwbare bronnen te vestigen en effectief de verspreiding van nepinhoud te voorkomen.

Invoering van sociale mediabeleid

Het erkennen van de potentiële schade die kan worden veroorzaakt door kwaadwillige acties deepfakes sociale mediaplatforms zoals Facebook En Twitter hebben een duidelijk standpunt ingenomen door ze te verbieden. Dit beleid maakt deel uit van een bredere inspanning om gebruikers te beschermen tegen de negatieve gevolgen van misleidende media, en onderstreept de rol van platformbeheer bij het waarborgen van digitale betrouwbaarheid.

adopteren deepfake detectiesoftware

De strijd tegen deepfakes wordt ook ondersteund door innovatie vanuit de particuliere sector. Een aantal bedrijven biedt geavanceerde oplossingen aan. deepfake Detectiesoftware die essentiële hulpmiddelen biedt voor het identificeren van gemanipuleerde media:

• Adobe’s content-authenticiteitsinitiatief: Adobe heeft een systeem geïntroduceerd waarmee makers een digitale handtekening aan hun video's en foto's kunnen toevoegen. Deze handtekening bevat gedetailleerde informatie over de totstandkoming van de media, wat een transparante methode biedt voor het verifiëren van de authenticiteit.
• Microsoft’s detectietool: Microsoft heeft een AI-aangedreven tool ontwikkeld die video's en foto's analyseert om de authenticiteit te beoordelen. Het biedt een vertrouwensscore die de waarschijnlijkheid van manipulatie aangeeft, zodat gebruikers de betrouwbaarheid van de media kunnen inschatten.
• Operatie Minerva : Dit initiatief richt zich op het catalogiseren van bekende deepfakes en hun digitale vingerafdrukken. Door nieuwe video's te vergelijken met deze catalogus, is het mogelijk om aanpassingen van eerder ontdekte vervalsingen te identificeren, waardoor het detectieproces wordt verbeterd.
• Sensity's detectieplatform : Sensity biedt een platform dat gebruikmaakt van deep learning voor detectie. deepfake Het systeem waarschuwt gebruikers via e-mail als ze virussen en malware tegenkomen. Op dezelfde manier als antivirusprogramma 's virussen en malware identificeren, worden gebruikers via e-mail gewaarschuwd. deepfake inhoud, wat een extra beschermingslaag toevoegt.

Hoe kun je jezelf beschermen? Praktische stappen

Naast deze technologische oplossingen kunnen individuen ook praktische stappen ondernemen om zich te beschermen tegen deepfakes :

• Blijf op de hoogte : Bewustzijn van het bestaan ​​en de aard van deepfakes Dit is de eerste stap in de verdediging. Door de technologie en het mogelijke misbruik ervan te begrijpen, kunnen individuen kritischer omgaan met digitale content.
• Controleer bronnen: Verifieer altijd de bron van de informatie. Zoek naar ondersteunend bewijs van gerenommeerde bronnen voordat je media als waar accepteert.
• Gebruik betrouwbare detectietools : Maak gebruik van deepfake Detectietools, indien beschikbaar. Veel bedrijven en platformen bieden tools of plug-ins aan die zijn ontworpen om gemanipuleerde content te identificeren.
• Meld verdachte inhoud : Als u iets tegenkomt dat verdacht lijkt op... deepfake Meld het aan het platform waarop de content wordt gehost. Gebruikersmeldingen spelen een cruciale rol bij het helpen van platforms om misleidende media te identificeren en ertegen op te treden.

Verdedigen tegen deepfakes Dit vereist een veelzijdige aanpak, waarbij technologische innovatie, beleidshandhaving en geïnformeerde waakzaamheid worden gecombineerd. Door goed geïnformeerd te blijven en gebruik te maken van beschikbare instrumenten en strategieën, kunnen individuen en organisaties zich beter beschermen tegen de schadelijke gevolgen van deepfake technologie.

Waarvoor worden deepfakes gebruikt?

Deepfakes worden vaak besproken in de context van hun potentiële schade, maar ze hebben een breed scala aan toepassingen in diverse vakgebieden. Inzicht in deze toepassingen helpt om de complexiteit en de tweeledige aard van deepfakes te begrijpen. deepfake technologie. Hier volgen enkele belangrijke toepassingen:

• Entertainment en media: Deepfake wordt steeds vaker gebruikt in films en videogames om visuele effecten te verbeteren, zoals het verouderen of verouderen van acteurs, of om overleden acteurs weer tot leven te wekken voor cameo optredens. Deze toepassing kan zich ook uitstrekken tot het creëren van realistische virtuele avatars voor online interacties.
• Onderwijs en training : In onderwijscontexten, deepfakes Ze kunnen meeslepende leerervaringen creëren, zoals historische reconstructies of simulaties. Zo kunnen ze historische figuren tot leven brengen en studenten een dynamische manier bieden om met geschiedenis bezig te zijn.
• Kunst en creativiteit : kunstenaars en creatievelingen verkennen de mogelijkheden. deepfakes als een nieuw expressiemiddel. Dit omvat het creëren van nieuwe vormen van digitale kunst, satire, of het verkennen van de grenzen tussen realiteit en kunstmatigheid.
• Reclame en marketing : Merken kunnen gebruikmaken van deepfake technologie om aantrekkelijkere en gepersonaliseerde marketingcontent te creëren. Bijvoorbeeld: deepfakes Het maakt het mogelijk om merkambassadeurs in te zetten in diverse campagnes zonder dat ze fysiek aanwezig hoeven te zijn, mogelijk in verschillende talen om een ​​wereldwijd publiek te bereiken.
• Politieke en sociale campagnes : Hoewel controversieel, deepfakes zijn gebruikt om het bewustzijn over maatschappelijke kwesties of de potentiële gevaren van desinformatie te vergroten. Zorgvuldig samengestelde deepfakes kan het belang van kritisch denken in het digitale tijdperk benadrukken.
• Synthetische media maken: Deepfakes maken deel uit van een bredere categorie van synthetische media, die worden gebruikt voor het genereren van realistische audio, video of afbeeldingen voor het maken van inhoud. Dit kan het productieproces van nieuws, documentaires en andere mediavormen stroomlijnen.

Terwijl deepfakes Hoewel deze toepassingen veelbelovende mogelijkheden bieden, is het cruciaal om er verantwoord mee om te gaan en ethische normen te handhaven om misbruik te voorkomen en de rechten en privacy van individuen te beschermen.

Voorbeelden van deepfakes

Bekende voorbeelden van deepfakes De video's bevatten onder andere een nep-Barack Obama die Donald Trump belachelijk maakt, een nep-Mark Zuckerberg die opschept over het beheren van de gegevens van miljarden mensen, en een rondetafelgesprek met deepfake-beroemdheden zoals Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum en Ewan McGregor.

Gerelateerde artikelen

Wat is social engineering?

Wat is catfishing ?

Risico’s van AI op het gebied van cyberbeveiliging

Wat is phishing?