Was sind Deepfakes? Wie funktionieren KI-generierte Videos und Medien?

Was ist ein Deepfake? Wie KI-generierte Videos und Medien funktionieren

Ein Deepfake ist ein synthetisches Medium, meist ein Deepfake-Video, -Bild oder -Audioclip, das mithilfe künstlicher Intelligenz generiert oder verändert wurde, um den Eindruck zu erwecken, eine reale Person sage oder tue etwas, was sie nie getan hat. Der Begriff setzt sich aus „Deep Learning“ und „Fake“ zusammen, und die Deepfake-KI hat sich so rasant weiterentwickelt, dass mittlerweile aus nur wenigen Sekunden Originalmaterial oder Sprachaufnahmen überzeugende Fälschungen erstellt werden können.

Wie funktioniert ein Deepfake eigentlich?

Technisch gesehen ist ein Deepfake das Ergebnis eines Machine-Learning-Modells, das anhand realer Beispiele einer Person – Fotos, Videobilder oder Audioaufnahmen – trainiert wurde, bis es die Muster erkennt, die diese Person erkennbar machen: die Gesichtszüge, die Bewegungen, den Tonfall und den Rhythmus der Stimme. Einmal trainiert, kann das Modell auf Abruf neues Material generieren und die Person in eine Szene, einen Satz oder einen Audioausschnitt einfügen, in dem sie nie tatsächlich vorkam. Das Ergebnis wird nicht wie ein Foto zugeschnitten oder retuschiert aus realem Material bearbeitet, sondern vom Modell von Grund auf neu generiert – dieselbe Qualität, die auch in der Bildbearbeitung genutzt wird. Deepfake-Präsentations- und Injektionsangriffeund warum ein gut gemachter Deepfake einer Überprüfung standhält, der eine manuelle Bearbeitung nicht standhalten könnte.

Deepfake-Video, -Bild und -Audio

Deepfakes treten in drei Hauptformen auf:

• Deepfake-Video: Das Gesicht oder der Körper einer realen Person wird in das Videomaterial eingefügt, oder ihre Mimik wird so manipuliert, dass sie einem Drehbuch entspricht, das sie nie ausgeführt hat.
• Deepfake-Bilder: Ein Standbild eines Gesichts, eines Dokuments oder einer Szene wird so manipuliert oder verändert, dass es echt wirkt.
• Deepfake-Audio: Eine Stimme wird aus einer kurzen Sprachprobe geklont und so manipuliert, dass sie beliebigen Text vorträgt. Diese Technik wird häufig bei Telefon- und Social-Engineering-Betrügereien eingesetzt.

Eine kurze Geschichte der Deepfake-Technologie

Die Technologie hinter Deepfakes entstand nicht über Nacht. Die Kerntechnik, das generative adversarielle Netzwerk (GAN), wurde 2014 von dem damals promovierten Machine-Learning-Forscher Ian Goodfellow eingeführt. Ziel war es, zwei neuronale Netze gegeneinander antreten zu lassen, bis eines überzeugende gefälschte Bilder erzeugte. Der Begriff „Deepfake“ selbst wurde erst im Dezember 2017 öffentlich gebräuchlich, als ein anonymer Reddit-Nutzer unter diesem Namen begann, KI-manipulierte Videos zu teilen und der Technik damit sowohl ihren Namen als auch ihre frühe Bekanntheit verlieh. Innerhalb weniger Jahre wurden Forschungsergebnisse, die einst ein eigenes Labor erforderten, in Verbraucher-Apps verpackt und verwandelten eine akademische Nischenforschung in eine Technologie, die jedem mit einem Smartphone zur Verfügung steht.

Wie funktioniert Deepfake-KI: GANs und Diffusionsmodelle?

Deepfake-KI basiert hauptsächlich auf zwei Modellfamilien:

• Generative Adversarial Networks (GANs): Zwei neuronale Netze treten gegeneinander an. Ein Generator erzeugt Fälschungen, während ein Diskriminator versucht, diese zu entlarven. Im Laufe des Wettbewerbs verbessert sich der Generator, bis seine Ausgabe sowohl den Diskriminator als auch oft auch einen menschlichen Betrachter täuschen kann.
• Diffusionsmodelle: die Technologie hinter vielen der realistischsten Bild- und Videogeneratoren von heute. Sie lernen, den Prozess des Hinzufügens von Rauschen umzukehren, sodass sie von zufälligem Rauschen ausgehen und es schrittweise zu einem fotorealistischen Ergebnis verfeinern können.

Beide Ansätze haben die Einstiegshürde gesenkt. Was früher große Datensätze und technisches Know-how erforderte, lässt sich heute mit Verbraucher-Apps realisieren, manchmal sogar in Echtzeit während eines Live-Videoanrufs.

Dieser Wandel wurde beschleunigt durch generative KI Deepfake Werkzeuge, die in Sekundenschnelle synthetisches Video und Audio erzeugen können.

Die verschiedenen Arten von Deepfakes

• Gesichtstausch: Das Gesicht einer Person wird in einem Video auf den Kopf einer anderen Person übertragen.
• Gesichtsnachstellung: Das Gesicht der Zielperson bleibt erhalten, aber Mimik und Kopfbewegungen werden von einem Schauspieler oder einem Drehbuch gesteuert.
• Lip-Sync-Deepfakes: Vorhandenes Videomaterial wird so verändert, dass die Mundbewegungen zum neuen Ton passen.
• Stimmklonierung: eine synthetische Kopie einer echten Stimme, die aus nur wenigen Sekunden gesprochener Sprache erstellt wird.
• Ganzkörper- und Text-zu-Video-Synthese: Ganze Personen und Szenen werden von Grund auf neu generiert, zunehmend anhand einer einfachen Textvorgabe.

Deepfakes vs. Cheapfakes: Warum die Unterscheidung wichtig ist?

Nicht jedes manipulierte Video ist ein Deepfake. Forscher verwenden den Begriff „Cheap Fake“ (manchmal auch „Shallowfake“ genannt) für Medien, die mit einfachen, kostengünstigen Methoden anstatt mit maschinellem Lernen verändert wurden: beispielsweise durch das Herausschneiden von Filmmaterial aus dem Kontext, das Verlangsamen oder Beschleunigen eines Clips, das falsche Beschriften eines echten Videos oder das Austauschen eines Gesichts mithilfe einfacher Bearbeitungssoftware. Cheap Fakes benötigen keinerlei KI, was ihre Herstellung deutlich vereinfacht und sie in der Praxis genauso fähig macht, ein Publikum in die Irre zu führen. Diese Unterscheidung ist für die Überprüfung wichtig: Ein Cheap Fake lässt sich oft durch Überprüfung der Originalquelle oder des Kontextes entlarven, während ein echter Deepfake die Art von technischer Analyse erfordert, die in diesem Leitfaden beschrieben wird. Jedes verdächtige Video als potenziellen Deepfake zu behandeln, birgt die Gefahr, den einfacheren und häufigeren Trick dahinter zu übersehen.

Die Entwicklung der Deepfake-Technologie

Frühe Deepfakes benötigten stundenlange Bearbeitung und wirkten dennoch fehlerhaft. Die Technologie hat sich seither in dreierlei Hinsicht weiterentwickelt: Die Modelle benötigen deutlich weniger Ausgangsmaterial, die Generierung ist schnell genug für den Live-Einsatz, und fertige Tools sind weit verbreitet. Eine Bedrohung, die einst nur gut ausgestatteten Akteuren vorbehalten war, ist heute für fast jeden erreichbar. Deshalb hat sich Deepfake-Betrug von einer Neuheit zu einem weit verbreiteten Geschäftsrisiko entwickelt.

Dieser Wandel ist im Aufstieg von sichtbar Deepfake als Service Angebote, die es jedem ermöglichen, Deepfake-Funktionen auf Abruf zu mieten.

Welche Risiken bergen Deepfakes?

Die Risiken von Deepfakes reichen weit über ein einzelnes gefälschtes Video hinaus. Sie umfassen finanzielle, reputationsbezogene und gesellschaftliche Schäden.

Identitätsbetrug und Vortäuschung

• Synthetische Gesichter und geklonte Stimmen werden verwendet, um Kunden zu imitieren, die Fernregistrierung zu umgehen und Systeme zu überlisten. Altersverifizierungsprüfungenund eröffnen Konten unter gestohlenen oder erfundenen Identitäten.

Finanzielle Schäden und Reputationsschäden

• Neben dem direkten Diebstahl sehen sich Unternehmen mit Rückbuchungen, Sanierungskosten und behördlichen Strafen im Rahmen sich wandelnder Vorschriften konfrontiert. Deepfake-Gesetzeund verlor das über Jahre aufgebaute Kundenvertrauen.

Fehlinformation und Manipulation

• Gefälschte Videos von Persönlichkeiten des öffentlichen Lebens können falsche Behauptungen verbreiten, und selbst authentisches Filmmaterial kann als Fälschung abgetan werden, was das Vertrauen der Öffentlichkeit stetig untergräbt.

Wie werden Deepfakes bei Online-Betrugsfällen eingesetzt?

Deepfakes werden bei Betrugsmaschen eingesetzt, um sich als jemand auszugeben, dem das Opfer bereits vertraut, wodurch dessen Wachsamkeit sinkt. Gängige Taktiken sind:

• CEO- und Managerbetrug: Eine geklonte Stimme oder ein geklontes Video eines hochrangigen Managers, der eine dringende Zahlung anordnet.
• Nachahmung von Familienmitgliedern und Freunden: Geklonte Stimmen rufen in Not an und fordern Geld.
• Liebes- und Anlagebetrug: Synthetische Persönlichkeiten, die entwickelt wurden, um mit der Zeit Vertrauen aufzubauen.
• Gefälschte Empfehlungen: Per Deepfake erstellte Prominente oder Beamte, die für Kryptowährungen und Handelssysteme werben.
• Verifizierungsumgehung: Gefälschte Selfies und Videos werden eingesetzt, um Identitätsprüfungen aus der Ferne zu umgehen.

Das Ausmaß ist real. Im Jahr 2024 wurde ein Finanzangestellter des Ingenieurbüros Arup dazu verleitet, rund 25 Millionen US-Dollar zu überweisen, nachdem er an einer Videokonferenz teilgenommen hatte, in der ausschließlich Deepfake-Nachbildungen von hochrangigen Kollegen zu sehen waren.

Welche Branchen sind am stärksten von Deepfakes betroffen?

Jeder Sektor, der auf dem Vertrauen in die Identität oder das Bild einer Person beruht, ist gefährdet, einige jedoch stärker als andere:

• Finanzdienstleistungen und Bankwesen: Kontoeröffnung, Zahlungsautorisierung und Überweisungen hoher Beträge.
• Fintech und Kryptowährung: Schnelles, ortsunabhängiges Onboarding und unwiderrufliche Transaktionen.
• Versicherung: Betrügerische Behauptungen, die durch manipulierte Bilder und Videos untermauert werden.
• GRegierung und öffentliche Dienste: Sozialleistungsbetrug und Identitätsmissbrauch.
• Medien und Unterhaltung: Rufmordkampagnen und erfundene Aussagen.
• Telekommunikation: Unterstützung für Betrugsmaschen im Zusammenhang mit SIM-Karten-Tausch und Kontoübernahme.
• Gig- und Sharing-Economy: Gefälschte Fahrer-, Host- und Mitarbeiteridentitäten.

Remote KYC Und die Überprüfung der Einarbeitungsprozesse ist der gemeinsame Nenner aller Sektoren auf dieser Liste.

Was sind die häufigsten Anzeichen für einen Deepfake?

Die besten Fälschungen sind zwar mit bloßem Auge kaum zu erkennen, doch viele Deepfakes hinterlassen dennoch Spuren. Die Kenntnis der gängigen Anzeichen hilft Einzelpersonen und Teams, wachsam zu bleiben.

Visuelle Zeichen in Videos und Bildern

• Unnatürliches Blinzeln oder Augen, die das Licht nicht gleichmäßig verfolgen oder reflektieren.
• Unschärfe oder Verzerrung an den Übergängen zwischen Gesicht, Haaren, Ohren, Brille oder Halsansatz.
• Haut, die zu glatt, wachsartig oder nicht zum Licht passt, wirkt.
• Leicht asynchrone Lippenbewegungen oder flache, undefinierte Zähne.
• Flackernde Kanten und Schatten, die sich zwischen den Einzelbildern seltsam verschieben.

Audio-Schilder

• Ein monotoner oder roboterhafter Sprechrhythmus mit ungewöhnlichen Pausen oder Betonungen.
• Hintergrundgeräusche, die unnatürlich einsetzen und wieder aussetzen.
• Fehlende oder fehlerhafte Atem- und Mundgeräusche.

Kontextuelle Zeichen

• Dringlichkeit, Geheimhaltung oder der Druck, schnell zu handeln.
• Ungewöhnliche Anfragen, insbesondere solche, die Geld oder Zugangsdaten betreffen.
• Ein Kommunikationskanal oder ein Verhalten, das nicht der üblichen Kommunikationsweise der Person entspricht.

Diese manuellen Prüfungen helfen zwar Einzelpersonen, sind aber nicht skalierbar. Ein Unternehmen, das Tausende von Personen überprüft, kann nicht jedes Selfie oder Video einzeln auf Verzerrungen und Flimmern prüfen. Organisationen, die synthetische Medien automatisch und in großem Umfang erkennen müssen, setzen auf speziell entwickelte Systeme. Lebendigkeitserkennung und die Erkennung von Deepfakes als Teil ihres Identitätsprüfungsprozesses.

Werden Deepfakes bald nicht mehr von echten Inhalten zu unterscheiden sein?

Deepfakes sind bereits so überzeugend, dass sie das menschliche Auge täuschen, und ihre Qualität wird sich mit sinkenden Produktionskosten und -geschwindigkeiten weiter verbessern. Es ist jedoch unwahrscheinlich, dass sie jemals völlig ununterscheidbar werden. Herkunftsstandards wie Inhaltsnachweise, digitale Wasserzeichen und mehrstufige Verifizierung entwickeln sich parallel dazu. Die Zukunft ist realistischerweise ein fortwährender Wettbewerb, in dem Authentizität überprüft und nicht einfach vorausgesetzt wird. Organisationen, die jede Identität als etwas betrachten, das es zu bestätigen gilt, werden am besten gerüstet sein, um damit umzugehen.

Wie Shufti Unternehmen dabei hilft, wettbewerbsfähig zu bleiben?

Shufti bietet Identitätsprüfung und Betrugsprävention für Unternehmen in über 240 Ländern und Gebieten. Durch die Kombination von biometrischer Verifizierung, Lebenderkennung und KI-gestützter Analyse synthetischer Medien unterstützt Shufti Organisationen dabei, die Echtheit und Anwesenheit der Person hinter einem Bildschirm zu bestätigen. So werden gefälschte Gesichter und geklonte Stimmen erkannt, bevor sie Schaden anrichten können. Um zu sehen, wie dies in der Praxis funktioniert, erfahren Sie mehr über Shuftis Ansatz. Deepfake-Erkennung, das Lebendigkeitsprüfungen, Dokumentenforensik und Verhaltenssignale in einem einzigen Verifizierungsablauf kombiniert.