Generatieve AI-deepfake-detectie: waarom juridische en technische lagen moeten samenwerken

Begin 2024 gaf een medewerker van ingenieursbureau Arup zijn goedkeuring aan een Overdracht van $ 25 miljoen Na een videogesprek met mensen waarvan ze dacht dat het senior collega's waren. Geen van hen bleek echt te zijn. Elk gezicht, elke stem in dat gesprek was een door AI gegenereerde deepfake, en de bankoverschrijving werd voltooid voordat iemand zich realiseerde dat de vergadering nooit had plaatsgevonden..

Als je je bezighoudt met fraudebestrijding, KYC of onboarding bij een gereguleerd bedrijf, is de Arup-zaak geen uitzondering. Het is een voorproefje van wat generatieve AI kan doen om bewijsmateriaal te identificeren wanneer detectietools achterlopen op de modellen die de aanvallen produceren.

Een generatieve AI-deepfake is synthetische audio, beeld of video, geproduceerd door moderne diffusie- of multimodale modellen, ontworpen om op een specifiek echt persoon te lijken. In tegenstelling tot de GAN-deepfakes uit 2019, vertonen deze outputs bijna geen van de zichtbare kenmerken waarop vroege detectoren werden getraind. Combineer dat met goedkope cloud-inferentie en consumentenvriendelijke tools voor gezichtsvervanging, en het detectieprobleem is niet langer een laboratoriumoefening.

Ook de regelgeving is in beweging. Artikel 50 van de EU-verordening inzake kunstmatige intelligentieDe wet, die op 2 augustus 2026 in werking treedt, vereist dat ontwikkelaars van AI-systemen die deepfake-content genereren, openbaar maken dat de content kunstmatig is gegenereerd.EU AI-wet, artikel 50, Future of Life InstituteTechnische detectie alleen is niet voldoende. Wat teams echt nodig hebben, is een gelaagd raamwerk dat biometrische signalen tijdens de uitvoering combineert met de herkomst van de inhoud bij de bron en een wettelijke waarborg. Dit artikel beschrijft hoe dat raamwerk werkt en wat het betekent voor de manier waarop u evaluaties uitvoert. identiteit verificatie <p></p>

Waarom generatieve AI de traditionele detectiemethoden op zijn kop zette

Gedurende het grootste deel van het afgelopen decennium zochten deepfake-detectoren naar kleine artefacten die generatieve modellen achterlieten. Onregelmatig knipperen, een inconsistente huidtextuur, ongelijkmatige belichting in een gezicht, vervormde oorlelletjes waar de trainingsdata schaars waren. Wanneer iemand in je fraudeteam zei dat een selfie "er vreemd uitzag", pikten ze meestal een van die kenmerken op zonder het te hoeven benoemen.

Moderne generatieve AI heeft de meeste van deze problemen opgelost. Diffusiemodellen produceren huidtexturen die er authentiek uitzien bij inspectie op pixelniveau. Stemkloneringssystemen leggen ritme en ademhaling vast aan de hand van enkele seconden audio. Gezichtsverwisselingsprocessen draaien nu in realtime tijdens een videostream, niet als een vooraf gerenderde clip. UNESCO In een artikel over synthetische media wordt deze verschuiving een "kenniscrisis" genoemd, omdat de artefacten die we vroeger vertrouwden, verdwenen zijn.

Drie specifieke veranderingen zijn van belang voor KYC en fraudeteams.

Ten eerste, toegankelijkheid. Tools voor gezichtsvervanging, waarvoor vroeger een GPU en een week aan finetuning nodig waren, draaien nu in een browser. Een fraudeur heeft geen expertise in machine learning nodig om een ​​overtuigende video van iemands gezicht te maken.

Ten tweede verplaatste het aanvalsoppervlak zich. Software voor virtuele camera's stelt een aanvaller in staat om een ​​vooraf opgenomen of live gegenereerde stream in een verificatieproces te injecteren, waardoor de daadwerkelijke camera van de telefoon volledig wordt omzeild. Dit is een injectieaanval en activeert geen RGB-only-aanval. liveness controles die ervan uitgaan dat de pixels afkomstig zijn van een echte lens.

Ten derde is de detectieduur verkort. Een classificator die getraind is op deepfakes van vorig jaar presteert aantoonbaar minder goed dan de modellen van dit jaar. 2024 NIST GenAI Uit een pilotstudie bleek dat de detectienauwkeurigheid standhield tegen aanvallen die gebruikmaken van samenvattingstechnieken, maar dat modelafwijking een blijvend risico vormt voor elke ingezette detector.

Het zich ontwikkelende juridische kader is gebaseerd op rechten, niet alleen op technische aspecten.

Regulatoren beschouwen deepfakes niet langer uitsluitend als een vorm van fraude. De nieuwe benadering neigt meer naar een mensenrechtenprobleem, waarbij synthetische media de identiteit, reputatie en geïnformeerde toestemming bedreigen. Een recent, door vakgenoten beoordeeld artikel in het International Journal of Law, Crime and Justice pleit voor precies die verschuiving en stelt een juridisch kader voor dat deepfakes op een andere manier behandelt. deepfake detectie als een plicht tot bescherming van rechten, en niet als een platformfunctie.

Artikel 50 van de EU-verordening inzake kunstmatige intelligentie (AI) is de eerste harde deadline. Vanaf 2 augustus 2026 moeten ontwikkelaars van AI-systemen die beeld-, audio- of videocontent genereren of manipuleren die een deepfake vormt, openbaar maken dat de content kunstmatig is gegenereerd. Dezelfde bepaling vereist dat synthetische outputs machinaal leesbaar worden gemarkeerd en dat gebruikers worden geïnformeerd wanneer ze met een AI-systeem interageren. De uitzonderingen zijn beperkt en omvatten rechtmatig strafrechtelijk onderzoek en duidelijk artistiek of satirisch werk.

De Europese Commissie werkt aan de implementatiedetails via haar Gedragscode voor het markeren en labelen van door AI gegenereerde content. Een definitieve versie wordt in juni 2026 verwacht, vóór de inwerkingtreding van artikel 50. Voor een fraude- of compliance-team betekent dit in de praktijk dat "we konden niet zien dat het nep was" vanaf die datum geen bruikbaar verweer meer is in gereguleerde onboardingprocessen.

Het andere puzzelstukje is de herkomst van de inhoud. C2PA De C2PA-standaard, ontwikkeld door de Coalition for Content Provenance and Authenticity, definieert hoe mediabestanden manipulatiebestendige metadata kunnen bevatten over wie ze heeft gemaakt, met welk hulpmiddel en hoe ze zijn bewerkt. C2PA is geen deepfake-detector. Het registreert de geschiedenis. In combinatie met detectie biedt het teams twee onafhankelijke signalen om te controleren wanneer een inzending een verificatieproces doorloopt.

Een drielaags detectiemodel voor KYC- en fraudeteams

Het duurzame antwoord op generatieve AI-deepfakes is niet één slimmere classificator. Het is een gelaagde verdediging, want geen enkele laag overleeft op zichzelf.

Laag één betreft biometrische detectie tijdens de uitvoering. Deze laag omvat de signalen die een camera in realtime kan produceren tijdens de verificatie. Frequentiedomeinanalyse detecteert artefacten die onzichtbaar zijn in de RGB-weergave, maar zichtbaar worden na beeldtransformatie. 3D-diepte- en parallaxcontroles bevestigen dat er daadwerkelijk een driedimensionaal gezicht aanwezig is. Gedragskenmerken, waaronder microbewegingen en reacties op passieve aanwijzingen, onderscheiden een levende persoon van een herhaalde of geïnjecteerde stream. Een goed ontworpen liveness-laag screent bovendien op injectieaanvallen via virtuele camera's, en niet alleen via afgedrukte foto's en schermopnames.

Laag twee betreft de herkomst van de inhoud. Wanneer een inzending C2PA-gegevens bevat, kan een verificatiesysteem controleren wie de inhoud heeft ondertekend, welke camera of bewerkingssoftware is gebruikt en of de metadata sinds de creatie is gewijzigd. Leica, Samsung en Google bieden nu native C2PA-ondertekening aan op consumentenhardware, waardoor media met authenticatiegegevens niet langer theoretisch zijn. Een inzending zonder authenticatiegegevens is niet automatisch frauduleus, maar de afwezigheid ervan is wel een signaal dat meegenomen moet worden in de risicobeoordeling.

De derde laag bestaat uit een menselijke beoordeling met wettelijke openbaarmaking als vangnet. Een hybride systeem van AI en menselijke beoordeling behandelt uitzonderlijke gevallen waarin de geautomatiseerde beoordeling onvoldoende zekerheid biedt en stuurt onduidelijke sessies door naar getrainde beoordelaars in plaats van een binaire acceptatie of afwijzing af te dwingen. De openbaarmakingsverplichtingen van artikel 50, zodra deze van kracht zijn, maken van de juridische laag een afdwingbaar onderdeel van de architectuur. Inhoud die gelabeld had moeten worden maar dat niet is, leidt tot een gedocumenteerde overtreding, wat de positie versterkt van bedrijven die redelijke zorgvuldigheid hebben betracht.

Praktische vervolgstappen voor compliance- en fraudeteams

Het is de moeite waard om een ​​paar controles uit te voeren op uw huidige systeem. identiteit verificatie stapelen voordat artikel 50 in werking treedt.

Vraag uw leverancier of hun liveness-model niet alleen screent op aanvallen met geprinte beelden en schermweergave, maar ook op injectie van virtuele camera's. Vraag of de detectie gevalideerd is door een overheidsinstantie of een onafhankelijke organisatie, in plaats van door het eigen laboratorium van de leverancier, omdat zelfgerapporteerde nauwkeurigheidscijfers een slechte reputatie hebben ten opzichte van de huidige aanvalsvectoren. Bevestig dat er een beoordelingsprocedure is voor sessies waarbij de geautomatiseerde betrouwbaarheid laag is, omdat volledig geautomatiseerde besluitvorming over generatieve AI-aanvallen de manier is waarop legitieme fraude erdoorheen komt.

Stem de informatie in uw onboardingdocumenten nu al af op de verplichting van artikel 50, in plaats van dit pas in juli 2026 te doen. De tekst van de gedragscode die in juni verschijnt, zal de details specificeren, dus reserveer ruimte in de beoordelingscyclus van de teksten om deze hierin op te nemen.

Generatieve AI-deepfakes worden al gebruikt in live verificatieprocessen, en de kloof tussen "onze liveness test is geslaagd" en "we hebben een echt persoon geverifieerd" is waar verliezen zoals in de Arup-zaak nu ontstaan. Deepfake-detectie van Shufti Het combineert meerlaagse anti-spoofing-bescherming tegen meer dan 56 aanvalsvectoren met een hybride aanpak van AI en menselijke beoordeling, actieve en passieve liveness-controle en implementatie op locatie, in de cloud of een hybride oplossing. Demo aanvragen Een voorbeeld van een generatieve AI-deepfake door de pipeline halen en het resultaat bekijken.