Generative KI-gestützte Deepfake-Erkennung: Warum die Zusammenarbeit von Rechts- und Technikabteilungen unerlässlich ist

Anfang 2024 genehmigte ein Mitarbeiter des Ingenieurbüros Arup eine 25 Millionen Dollar Überweisung Nach einem Videoanruf mit Personen, die sie für hochrangige Kollegen hielt, stellte sich heraus, dass keiner von ihnen echt war. Jedes Gesicht, jede Stimme in diesem Anruf war ein KI-generiertes Deepfake, und die Banküberweisung wurde durchgeführt, bevor irgendjemand merkte, dass das Treffen nie stattgefunden hatte..

Wenn Sie in einem regulierten Unternehmen für Betrugsbekämpfung, KYC oder Onboarding zuständig sind, ist der Fall Arup kein Einzelfall. Er zeigt beispielhaft, was generative KI bei der Identifizierung von Beweismitteln leistet, wenn die Erkennungstools den Modellen, die die Angriffe erzeugen, hinterherhinken.

Ein generativer KI-Deepfake ist ein synthetisches Audio-, Bild- oder Videomaterial, das mithilfe moderner Diffusions- oder multimodaler Modelle erzeugt wird und einer bestimmten realen Person nachempfunden ist. Im Gegensatz zu den Fälschungen der GAN-Ära von 2019 weisen diese Ergebnisse fast keine der sichtbaren Merkmale auf, auf die frühere Erkennungsmethoden trainiert wurden. Kombiniert man dies mit kostengünstiger Cloud-basierter Inferenz und benutzerfreundlichen Tools zum Gesichtstausch, ist die Erkennung von Deepfakes kein reines Laborproblem mehr.

Auch der regulatorische Bereich ist im Wandel. Artikel 50 des EU-KI-Gesetzes, das am 2. August 2026 in Kraft tritt, verpflichtet die Betreiber von KI-Systemen, die Deepfake-Inhalte erzeugen, offenzulegen, dass die Inhalte künstlich erzeugt wurden (EU-KI-Gesetz, Artikel 50, Future of Life InstituteTechnische Erkennung allein reicht nicht aus. Teams benötigen vielmehr ein mehrschichtiges Framework, das biometrische Signale zur Laufzeit mit der Herkunftsnachverfolgung von Inhalten an der Quelle und einem rechtlichen Offenlegungsmechanismus kombiniert. Dieser Artikel erläutert die Funktionsweise dieses Frameworks und seine Auswirkungen auf Ihre Bewertungsmethoden. Identitätsprüfung mehr Informationen.

Warum generative KI die alten Erkennungsstrategien über den Haufen geworfen hat

Fast das gesamte letzte Jahrzehnt über suchten Deepfake-Detektoren nach kleinen Artefakten, die generative Modelle hinterließen. Unregelmäßiges Blinzeln, ungleichmäßige Hautstruktur, ungleichmäßige Beleuchtung im Gesicht, verzerrte Ohrläppchen, wenn die Trainingsdaten dünn waren. Wenn jemand aus Ihrem Betrugsteam sagte, ein Selfie sähe „komisch“ aus, erkannte er meist eines dieser verräterischen Merkmale, ohne es benennen zu müssen.

Moderne generative KI hat die meisten dieser Probleme beseitigt. Diffusionsmodelle erzeugen Hauttexturen, die selbst bei pixelgenauer Betrachtung authentisch wirken. Systeme zur Stimmklonierung erfassen Sprechrhythmus und Atmung aus wenigen Sekunden Audiomaterial. Gesichtstausch-Pipelines laufen nun in Echtzeit während eines Videostreams, nicht mehr als vorgerenderter Clip. UNESCO In einer Abhandlung über synthetische Medien wird dieser Wandel als „Krise des Wissens“ bezeichnet, da die Artefakte, denen wir früher vertrauten, verschwunden sind.

Drei konkrete Änderungen sind wichtig für KYC und Betrugsteams.

Erstens, Zugänglichkeit. Tools zum Gesichtstausch, die früher eine GPU und eine Woche Feinabstimmung erforderten, laufen jetzt im Browser. Ein Betrüger braucht keine Kenntnisse im Bereich maschinelles Lernen mehr, um ein überzeugendes Video vom Gesicht einer anderen Person zu erstellen.

Zweitens hat sich die Angriffsfläche verlagert. Mithilfe von Software für virtuelle Kameras kann ein Angreifer einen vorab aufgezeichneten oder live generierten Stream in einen Verifizierungsablauf einschleusen und so die eigentliche Kamera des Telefons vollständig umgehen. Dies ist ein Injection-Angriff und löst keine RGB-only-Attacke aus. Lebendigkeitsprüfungen die davon ausgehen, dass die Pixel von einer realen Linse stammen.

Drittens hat sich die Haltbarkeit der Erkennungsmethoden verkürzt. Ein Klassifikator, der mit Deepfakes aus dem letzten Jahr trainiert wurde, ist gegenüber den diesjährigen Modellen messbar schwächer. 2024 NIST GenAI Eine Pilotstudie zeigte, dass die Erkennungsgenauigkeit auch Angriffen im Stil von Zusammenfassungen standhält, wies aber auf Modelldrift als ein ständiges Risiko für jeden eingesetzten Detektor hin.

Der entstehende Rechtsrahmen basiert auf Rechten, nicht nur auf technischen Aspekten.

Regulierungsbehörden betrachten Deepfakes nicht mehr ausschließlich als Betrugsfall. Die neue Sichtweise rückt vielmehr ein Menschenrechtsproblem in den Vordergrund, bei dem synthetische Medien Identität, Reputation und informierte Einwilligung bedrohen. Ein kürzlich im International Journal of Law, Crime and Justice veröffentlichter, von Fachkollegen begutachteter Artikel plädiert genau für diesen Paradigmenwechsel und schlägt einen Rechtsrahmen vor, der … Deepfake-Erkennung als Pflicht zum Schutz von Rechten und nicht als Plattformfunktion.

Artikel 50 des EU-KI-Gesetzes setzt die erste verbindliche Frist. Ab dem 2. August 2026 müssen Betreiber von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die als Deepfakes gelten, offenlegen, dass diese Inhalte künstlich generiert wurden. Dieselbe Bestimmung schreibt eine maschinenlesbare Kennzeichnung der synthetischen Ausgaben vor und informiert die Nutzer bei der Interaktion mit einem KI-System. Die Ausnahmen sind eng gefasst und umfassen rechtmäßige strafrechtliche Ermittlungen sowie offensichtlich künstlerische oder satirische Werke.

Die Europäische Kommission arbeitet an den Details der Umsetzung ihres Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte. Eine endgültige Fassung wird im Juni 2026, vor Inkrafttreten von Artikel 50, erwartet. Für Betrugs- und Compliance-Teams bedeutet dies konkret, dass die Aussage „Wir konnten nicht erkennen, dass es sich um eine Fälschung handelte“ ab diesem Zeitpunkt in regulierten Onboarding-Prozessen nicht mehr als zulässige Verteidigung gilt.

Das andere Puzzleteil ist die Herkunft der Inhalte. C2PA Der von der Coalition for Content Provenance and Authenticity (C2PA) entwickelte Standard definiert, wie Mediendateien manipulationssichere Metadaten enthalten können, die Auskunft darüber geben, wer sie erstellt hat, mit welchem ​​Werkzeug und wie sie bearbeitet wurden. C2PA ist kein Deepfake-Detektor, sondern protokolliert den Verlauf. In Kombination mit der Erkennungsfunktion liefert es Teams zwei unabhängige Signale, die sie bei der Überprüfung eingehender Beiträge im Verifizierungsprozess gegenprüfen können.

Ein dreischichtiges Erkennungsmodell für KYC- und Betrugsteams

Die dauerhafte Antwort auf generative KI-Deepfakes ist nicht ein einzelner, intelligenterer Klassifikator. Sie liegt in einem mehrschichtigen Schutz, denn keine Schicht allein kann bestehen.

Die erste Ebene ist die biometrische Echtzeit-Erkennung. Sie erfasst die Signale, die eine Kamera während der Verifizierung in Echtzeit erzeugen kann. Die Frequenzbereichsanalyse erkennt Artefakte, die in der RGB-Ansicht unsichtbar sind, aber bei der Bildtransformation sichtbar werden. 3D-Tiefen- und Parallaxenprüfungen bestätigen das Vorhandensein eines dreidimensionalen Gesichts. Verhaltensmerkmale wie Mikrobewegungen und Reaktionen auf passive Aufforderungen unterscheiden eine lebende Person von einem wiedergegebenen oder eingeschleusten Stream. Eine gut konzipierte Lebenderkennungsebene filtert zudem Angriffe durch virtuelle Kameras heraus, nicht nur durch ausgedruckte Fotos und Bildschirmaufnahmen.

Die zweite Ebene betrifft die Herkunft der Inhalte. Wenn eine Einreichung C2PA-Zugangsdaten enthält, kann ein Verifizierungssystem überprüfen, wer die Inhalte signiert hat, welche Kamera oder welches Bearbeitungsprogramm verwendet wurde und ob die Metadaten seit der Erstellung verändert wurden. Leica, Samsung und Google bieten die native C2PA-Signierung bereits auf ihren Endgeräten an, sodass authentifizierte Medien keine Theorie mehr sind. Eine Einreichung ohne Zugangsdaten ist nicht automatisch betrügerisch, aber ihr Fehlen ist ein Hinweis, der in die Risikobewertung einfließt.

Die dritte Ebene umfasst die menschliche Überprüfung sowie die rechtliche Offenlegungspflicht. Eine hybride KI- und menschliche Überprüfung deckt Sonderfälle ab, in denen die automatisierte Sicherheit gering ist, und leitet unklare Sitzungen an geschulte Prüfer weiter, anstatt eine binäre Annahme oder Ablehnung zu erzwingen. Sobald die Offenlegungspflichten gemäß Artikel 50 in Kraft treten, wird die rechtliche Ebene zu einem rechtsverbindlichen Bestandteil der Architektur. Inhalte, die hätten gekennzeichnet werden müssen, aber nicht gekennzeichnet wurden, stellen einen dokumentierten Verstoß dar und stärken die Position von Unternehmen, die angemessene Sorgfalt walten ließen.

Praktische nächste Schritte für Compliance- und Betrugsbekämpfungsteams

Es lohnt sich, einige Überprüfungen an Ihrem aktuellen System durchzuführen. Identitätsprüfung Stapeln, bevor Artikel 50 in Kraft tritt.

Fragen Sie Ihren Anbieter, ob sein Live-Erkennungsmodell neben Angriffen mit gedruckten Bildern und Bildschirmaufnahmen auch Angriffe mit virtuellen Kameras erkennt. Klären Sie ab, ob die Erkennung von einer staatlichen oder unabhängigen Stelle und nicht vom eigenen Labor des Anbieters validiert wurde, da selbstberichtete Genauigkeitszahlen im Hinblick auf aktuelle Angriffsmethoden wenig zuverlässig sind. Stellen Sie sicher, dass Sitzungen mit geringer automatisierter Erkennungssicherheit überprüft werden, da legitime Betrugsversuche nur durch vollautomatische Entscheidungen bei KI-gestützten Angriffen unentdeckt bleiben.

Richten Sie Ihre Offenlegungshinweise für neue Mitarbeiter jetzt an den Anforderungen von Artikel 50 aus, anstatt dies erst im Juli 2026 nachträglich zu ändern. Der im Juni erscheinende Verhaltenskodex wird die Details festlegen; planen Sie daher im Rahmen der Textprüfung genügend Zeit für die Einarbeitung ein.

Generative KI-Deepfakes sind bereits in Live-Verifizierungsabläufe integriert, und genau in der Lücke zwischen „unsere Lebendigkeitsprüfung besteht“ und „wir haben eine echte Person verifiziert“ entstehen jetzt Verluste wie im Fall Arup. Shuftis Deepfake-Erkennung kombiniert mehrschichtigen Schutz vor Spoofing gegen mehr als 56 Angriffsvektoren mit hybrider KI und menschlicher Überprüfung, aktiver und passiver Lebenderkennung sowie On-Premises-, Cloud- oder Hybrid-Bereitstellung. Demo anfordern Eine generative KI-Deepfake-Probe durch die Pipeline laufen zu lassen und das Ergebnis abzuwarten.