Wat zijn deepfakes? Hoe werken door AI gegenereerde video's en media?

Wat is een deepfake? Hoe werken door AI gegenereerde video's en media?

Een deepfake is een stukje synthetische media, meestal een deepfake-video, -afbeelding of -audiofragment, dat is gegenereerd of bewerkt door kunstmatige intelligentie om een ​​echt persoon iets te laten zeggen of doen wat hij of zij nooit heeft gedaan. De term is een samenvoeging van 'deep learning' en 'fake', en deepfake-AI heeft zich zo snel ontwikkeld dat een overtuigende vervalsing nu kan worden gemaakt met slechts een klein fragment van echt beeldmateriaal of een paar seconden opgenomen spraak.

Hoe werkt een deepfake eigenlijk?

Technisch gezien is een deepfake het resultaat van een machine learning-model dat is getraind op echte voorbeelden van een persoon, foto's, videobeelden of audio-opnamen, totdat het de patronen leert die die persoon herkenbaar maken: de geometrie van hun gezicht, de manier waarop ze bewegen, de toon en het ritme van hun stem. Eenmaal getraind, kan het model op aanvraag nieuw materiaal genereren, waarbij de persoon wordt geplaatst in een scène, een zin of een audiofragment waarin hij of zij nooit echt is verschenen. De output is niet bewerkt uit echt beeldmateriaal zoals een foto zou worden bijgesneden of geretoucheerd; het wordt volledig door het model gegenereerd, dezelfde kwaliteit die wordt benut in deepfake presentatie- en injectieaanvallenEn waarom een ​​goed gemaakte deepfake de toets der kritiek kan doorstaan, terwijl een handmatig bewerkte versie dat niet zou kunnen.

Deepfake-video's, -afbeeldingen en -audio

Deepfakes komen in drie hoofdvormen voor:

• Deepfake-video: het gezicht of lichaam van een echt persoon wordt in de video geplaatst, of hun gezichtsuitdrukkingen worden gemanipuleerd om een ​​script na te bootsen dat ze nooit hebben uitgevoerd.
• Deepfake-afbeeldingen: een stilstaande foto van een gezicht, een document of een scène wordt gefabriceerd of bewerkt om er realistisch uit te zien.
• Deepfake-audio: een stem wordt gekloond uit een kort fragment en vervolgens gebruikt om een ​​willekeurige tekst uit te spreken. Deze techniek wordt veel gebruikt bij telefonische oplichting en social engineering.

Een korte geschiedenis van deepfake-technologie

De technologie achter deepfakes is niet van de ene op de andere dag ontstaan. De kerntechniek, het generatieve adversariële netwerk (GAN), werd in 2014 geïntroduceerd door machine learning-onderzoeker Ian Goodfellow, destijds promovendus, als een manier om twee neurale netwerken tegen elkaar te laten strijden totdat er één overtuigende nepbeelden produceerde. De term 'deepfake' zelf werd pas in december 2017 publiekelijk gebruikt, toen een anonieme Reddit-gebruiker onder die naam AI-gemanipuleerde video's begon te delen, waardoor de techniek zowel zijn naam als zijn vroege bekendheid kreeg. Binnen een paar jaar was onderzoek dat ooit een speciaal laboratorium vereiste, verpakt in consumentenapps, waardoor een niche academische oefening een technologie werd die beschikbaar was voor iedereen met een smartphone.

Hoe werkt deepfake-AI: GAN's en diffusiemodellen?

Deepfake AI wordt hoofdzakelijk aangedreven door twee soorten modellen:

• Generatieve Adversariële Netwerken (GAN's): twee neurale netwerken concurreren met elkaar. Een generator creëert vervalsingen, terwijl een discriminator probeert deze te ontmaskeren. Tijdens de competitie verbetert de generator zich totdat de output zowel de discriminator als, vaak, een menselijke waarnemer kan misleiden.
• Diffusiemodellen: de technologie achter veel van de meest realistische beeld- en videogeneratoren van vandaag. Ze leren een proces van ruistoevoeging om te keren, zodat ze kunnen beginnen met willekeurige ruis en deze geleidelijk kunnen verfijnen tot een fotorealistisch resultaat.

Beide benaderingen hebben de drempel verlaagd. Wat voorheen grote datasets en technische vaardigheden vereiste, kan nu met consumentenapps worden gedaan, soms zelfs in realtime tijdens een live videogesprek.

Deze verschuiving is versneld door generatieve AI deepfake tools die binnen enkele seconden synthetische video en audio kunnen produceren.

De verschillende soorten deepfakes

• Gezichtswissel: het gezicht van de ene persoon wordt in een video op het hoofd van een andere persoon geplaatst.
• Gezichtsreconstructie: het gezicht van het doelwit blijft behouden, maar de uitdrukkingen en hoofdbewegingen worden aangestuurd door een acteur of script.
• Lip-sync deepfakes: bestaande beelden worden aangepast zodat de mondbewegingen overeenkomen met nieuwe audio.
• Stemklonen: een synthetische kopie van een echte stem, gemaakt op basis van slechts enkele seconden spraak.
• Synthese van volledige personen en tekst naar video: complete personen en scènes worden van nul af aan gegenereerd, steeds vaker op basis van een eenvoudige tekstaanwijzing.

Deepfakes versus goedkope namaak: waarom is het onderscheid belangrijk?

Niet elke gemanipuleerde video is een deepfake. Onderzoekers gebruiken de term 'goedkope fake', soms ook wel 'shallowfake' genoemd, voor media die bewerkt zijn met eenvoudige, goedkope methoden in plaats van machine learning: het uit de context knippen van beelden, het vertragen of versnellen van een clip, het verkeerd labelen van een authentieke video of het gebruik van eenvoudige bewerkingssoftware om een ​​gezicht te vervangen. Goedkope fakes vereisen helemaal geen AI, waardoor ze veel gemakkelijker te produceren zijn en in de praktijk net zo goed een publiek kunnen misleiden. Dit onderscheid is belangrijk voor verificatie: een goedkope fake kan vaak worden ontmaskerd door de originele bron of context te controleren, terwijl een echte deepfake het soort technische analyse vereist dat in deze handleiding wordt beschreven. Door elke verdachte video als een potentiële deepfake te beschouwen, loop je het risico de eenvoudigere, meer gangbare truc erachter over het hoofd te zien.

De evolutie van deepfake-technologie

De eerste deepfakes vereisten uren verwerkingstijd en zagen er nog steeds gebrekkig uit. De technologie is sindsdien op drie manieren veranderd: modellen hebben veel minder bronmateriaal nodig, de generatie is snel genoeg om live te draaien en kant-en-klare tools zijn wijdverspreid. Een dreiging die ooit beperkt was tot goed uitgeruste actoren, is nu voor bijna iedereen bereikbaar. Daarom is deepfake-fraude uitgegroeid van een nieuwigheid tot een gangbaar bedrijfsrisico.

Deze verschuiving is zichtbaar in de opkomst van deepfake als service aanbiedingen waarmee iedereen op aanvraag deepfake-functionaliteit kan huren.

Wat zijn de risico's van deepfakes?

De risico's van deepfakes gaan veel verder dan een enkele nepvideo. Ze omvatten financiële schade, reputatieschade en maatschappelijke schade.

Identiteitsfraude en het zich voordoen als iemand anders

• Synthetische gezichten en gekloonde stemmen worden gebruikt om klanten te imiteren, onboarding op afstand te omzeilen en fraude te plegen. leeftijdsverificatiecontrolesen het openen van rekeningen onder gestolen of verzonnen identiteiten.

Financiële en reputatieschade

• Naast directe diefstal worden bedrijven geconfronteerd met terugboekingen, herstelkosten en boetes van toezichthouders in steeds veranderende omstandigheden. deepfake-wettenen verloor het vertrouwen van klanten dat jarenlang was opgebouwd.

Misinformatie en manipulatie

• Gefabriceerde video's van publieke figuren kunnen valse beweringen verspreiden, en zelfs authentieke beelden kunnen als nep worden afgedaan, een effect dat het publieke vertrouwen gestaag ondermijnt.

Hoe worden deepfakes gebruikt bij online oplichting?

Deepfakes worden bij oplichting gebruikt om iemand na te bootsen die het slachtoffer al vertrouwt, waardoor diegene minder alert is. Veelgebruikte tactieken zijn onder andere:

• Fraude door CEO's en directieleden: Een gekloonde stem of video van een hoge leidinggevende die een dringende betaling goedkeurt.
• Imitatie van familie en vrienden: Gekloonde stemmen in noodoproepen eisen geld.
• Romantische oplichting en beleggingsfraude: Kunstmatige persona's gecreëerd om in de loop der tijd vertrouwen te winnen.
• Valse aanbevelingen: Deepfake-versies van beroemdheden of functionarissen die cryptovaluta en handelsconstructies promoten.
• Verificatie omzeilen: Valse selfies en video's worden gebruikt om identiteitscontroles op afstand te omzeilen.

De omvang is reëel. In 2024 werd een medewerker van de financiële afdeling van ingenieursbureau Arup misleid om zo'n 25 miljoen dollar over te maken nadat hij deelnam aan een videogesprek dat volledig bestond uit deepfake-recreaties van senior collega's.

Welke sectoren worden het meest getroffen door deepfakes?

Elke sector die afhankelijk is van het vertrouwen in iemands identiteit of imago loopt risico, maar sommige sectoren worden zwaarder getroffen dan andere:

• Financiële dienstverlening en bankwezen: Rekeningopening, betalingsautorisatie en overboekingen van grote bedragen.
• Fintech en cryptovaluta: Snelle, op afstand te voltooien onboarding en onomkeerbare transacties.
• Verzekering: Oplichtingspraktijken ondersteund door gemanipuleerde afbeeldingen en video's.
• Goverheid en openbare diensten: Fraude met uitkeringen en misbruik van identiteit.
• Media en entertainment: Reputatieaanvallen en verzonnen verklaringen.
• Telecommunicatie: Oplichting met simkaartswaps en accountovername ondersteunt fraude.
• Gig-economie en deeleconomie: Valse identiteiten voor chauffeur, host en medewerker.

Remote KYC En onboardingcontroles vormen de rode draad in elke sector op deze lijst.

Wat zijn de meest voorkomende kenmerken van een deepfake?

Hoewel de beste vervalsingen moeilijk met het blote oog te herkennen zijn, laten veel deepfakes nog steeds aanwijzingen achter. Het kennen van de meest voorkomende kenmerken helpt mensen en teams alert te blijven.

Visuele signalen in video en afbeeldingen

• Onnatuurlijk knipperen, of ogen die licht niet consistent volgen of weerkaatsen.
• Vervaging of vervorming op de plek waar het gezicht het haar, de oren, de bril of de halslijn raakt.
• Een huid die er te glad, wasachtig of niet in verhouding tot de belichting uitziet.
• Lipbewegingen die enigszins uit de pas lopen, of vlakke, ongedefinieerde tanden.
• Flikkerende randen en schaduwen die op een vreemde manier verschuiven tussen de frames.

Audiosignalen

• Een vlak of robotachtig ritme met ongebruikelijke pauzes of accenten.
• Achtergrondgeluid dat op onnatuurlijke wijze in- en uitschakelt.
• Ontbrekende of verkeerd geplaatste ademhalings- en mondgeluiden.

Contextuele tekens

• Dringendheid, geheimhouding of druk om snel te handelen.
• Ongebruikelijke verzoeken, vooral met betrekking tot geld of inloggegevens.
• Een communicatiekanaal of gedragspatroon dat niet overeenkomt met de gebruikelijke manier waarop de persoon communiceert.

Deze handmatige controles helpen individuen, maar ze zijn niet schaalbaar. Een bedrijf dat duizenden mensen verifieert, kan niet elke selfie of video handmatig controleren op vervorming en flikkering. Organisaties die synthetische media automatisch en op grote schaal moeten detecteren, vertrouwen op speciaal daarvoor ontwikkelde systemen. detectie van levendigheid en deepfake-detectie als onderdeel van hun identiteitsverificatieproces.

Zal het op den duur onmogelijk worden om deepfakes te onderscheiden van echte content?

Deepfakes zijn al overtuigend genoeg om het menselijk oog te misleiden, en de kwaliteit zal blijven verbeteren naarmate de productie ervan goedkoper en sneller wordt. Maar het is onwaarschijnlijk dat ze ooit echt onmogelijk te onderscheiden zullen zijn. Herkomststandaarden zoals contentcertificaten, digitale watermerken en gelaagde verificatie ontwikkelen zich parallel daaraan. De realistische toekomst is een voortdurende strijd waarin authenticiteit wordt geverifieerd in plaats van aangenomen, en organisaties die elke identiteit als iets beschouwen dat bevestigd moet worden, zullen het best in staat zijn om hiermee om te gaan.

Hoe helpt Shufti bedrijven om de concurrentie voor te blijven?

Shufti biedt identiteitsverificatie en fraudepreventie voor bedrijven in meer dan 240 landen en gebieden. Door biometrische verificatie, liveness-checks en AI-gestuurde analyse van synthetische media te combineren, helpt Shufti organisaties te bevestigen dat de persoon achter een scherm echt is, aanwezig is en is wie hij of zij beweert te zijn. Zo worden vervalste gezichten en gekloonde stemmen opgespoord voordat ze schade kunnen aanrichten. Bekijk de aanpak van Shufti om te zien hoe dit in de praktijk werkt. deepfake detectie, wat levendigheidscontroles, documentforensisch onderzoek en gedragssignalen combineert in één verificatieproces.