Que sont les deepfakes ? Comment fonctionnent les vidéos et les médias générés par l’IA ?

Qu'est-ce qu'un deepfake ? Comment fonctionnent les vidéos et les médias générés par l'IA ?

Un deepfake est un contenu synthétique, le plus souvent une vidéo, une image ou un extrait audio falsifié, généré ou modifié par une intelligence artificielle pour faire croire qu'une personne réelle a dit ou fait quelque chose qu'elle n'a jamais fait. Ce terme combine « apprentissage profond » et « faux », et l'IA utilisée pour les deepfakes a progressé si rapidement qu'il est désormais possible de créer une contrefaçon convaincante à partir d'un simple extrait vidéo authentique ou de quelques secondes d'enregistrement vocal.

Comment fonctionne réellement un deepfake ?

Techniquement parlant, un deepfake est le résultat d'un modèle d'apprentissage automatique entraîné sur des exemples réels d'une personne : photos, images extraites de vidéos ou enregistrements audio. Ce modèle apprend les caractéristiques qui rendent une personne reconnaissable : la géométrie de son visage, ses mouvements, le ton et le rythme de sa voix. Une fois entraîné, le modèle peut générer de nouveaux contenus à la demande, en intégrant la personne dans une scène, une phrase ou un extrait audio où elle n'apparaît pas. Le résultat n'est pas issu d'images réelles retouchées comme une photo ; il est généré de toutes pièces par le modèle, avec la même qualité que celle utilisée dans les deepfakes. présentation et attaque par injection de deepfakeset pourquoi un deepfake bien réalisé peut résister à un examen minutieux auquel une modification manuelle ne pourrait pas résister.

Vidéo, image et audio truqués

Les deepfakes se présentent sous trois grandes formes :

• Vidéo deepfake : le visage ou le corps d’une personne réelle est inséré dans une vidéo, ou ses expressions sont manipulées pour correspondre à un scénario qu’elle n’a jamais interprété.
• Images deepfake : une photo fixe d’un visage, d’un document ou d’une scène est fabriquée ou modifiée pour paraître réelle.
• Audio deepfake : une voix est clonée à partir d’un court échantillon et utilisée pour prononcer n’importe quel texte, une technique largement utilisée dans les arnaques téléphoniques et d’ingénierie sociale.

Bref historique de la technologie Deepfake

La technologie des deepfakes ne s'est pas développée du jour au lendemain. La technique de base, le réseau antagoniste génératif (GAN), a été introduite en 2014 par Ian Goodfellow, chercheur en apprentissage automatique et alors doctorant, afin de confronter deux réseaux neuronaux jusqu'à ce que l'un d'eux produise des images truquées convaincantes. Le terme « deepfake » n'est entré dans le langage courant qu'en décembre 2017, lorsqu'un utilisateur anonyme de Reddit, publiant sous ce pseudonyme, a commencé à partager des vidéos manipulées par l'IA, donnant ainsi son nom à la technique et sa notoriété initiale. En quelques années, des recherches qui nécessitaient auparavant un laboratoire spécialisé ont été intégrées à des applications grand public, transformant un exercice académique de niche en une technologie accessible à tous les possesseurs de smartphone.

Comment fonctionne l'IA Deepfake : GAN et modèles de diffusion ?

L'IA Deepfake repose principalement sur deux familles de modèles :

• Réseaux antagonistes génératifs (GAN) : deux réseaux neuronaux s’affrontent. Un générateur produit de fausses informations tandis qu’un discriminateur tente de les détecter. Au fil de cette compétition, le générateur s’améliore jusqu’à ce que sa production puisse tromper à la fois le discriminateur et, souvent, un observateur humain.
• Modèles de diffusion : la technologie qui sous-tend nombre des générateurs d’images et de vidéos les plus réalistes d’aujourd’hui. Ils apprennent à inverser le processus d’ajout de bruit, ce qui leur permet de partir d’un bruit aléatoire et de l’affiner progressivement jusqu’à obtenir un résultat photoréaliste.

Ces deux approches ont abaissé les barrières à l'entrée. Ce qui nécessitait autrefois d'importants volumes de données et des compétences techniques pointues peut désormais être réalisé grâce à des applications grand public, parfois en temps réel lors d'un appel vidéo en direct.

Ce changement a été accéléré par deepfake IA générative Des outils capables de produire de la vidéo et de l'audio de synthèse en quelques secondes.

Les différents types de deepfakes

• Échange de visages : le visage d’une personne est superposé à celui d’une autre personne dans une vidéo.
• Reconstitution faciale : le visage de la personne ciblée est conservé, mais ses expressions et ses mouvements de tête sont pilotés par un acteur ou un scénario.
• Deepfakes à synchronisation labiale : des images existantes sont modifiées pour que la bouche corresponde au nouvel audio.
• Clonage vocal : une copie synthétique d'une vraie voix, créée à partir de quelques secondes de parole seulement.
• Synthèse de corps entier et de texte en vidéo : des personnes et des scènes entières générées à partir de zéro, de plus en plus souvent à partir d’une simple invite textuelle.

Deepfakes contre Cheapfakes : pourquoi cette distinction est-elle importante ?

Toutes les vidéos manipulées ne sont pas des deepfakes. Les chercheurs utilisent le terme « cheap fake », parfois appelé « shallowfake », pour désigner les contenus modifiés par des méthodes simples et peu coûteuses, sans recours à l'apprentissage automatique : montage hors contexte, ralentissement ou accélération d'une séquence, étiquetage erroné d'une vidéo authentique ou remplacement d'un visage à l'aide d'un logiciel de montage basique. Les cheap fakes ne nécessitent aucune intelligence artificielle, ce qui les rend beaucoup plus faciles à produire et, en pratique, tout aussi capables de tromper le public. Cette distinction est importante pour la vérification : un cheap fake peut souvent être détecté en vérifiant la source originale ou le contexte, tandis qu'un véritable deepfake exige le type d'analyse technique décrit dans ce guide. Considérer systématiquement toute vidéo suspecte comme un deepfake potentiel risque de vous faire passer à côté de la technique plus simple et plus courante qui se cache derrière.

L'évolution de la technologie des deepfakes

Les premiers deepfakes nécessitaient des heures de traitement et restaient imparfaits. Depuis, la technologie a évolué sur trois points : les modèles requièrent beaucoup moins de contenu source, la génération est suffisamment rapide pour une utilisation en temps réel et des outils prêts à l’emploi se sont largement répandus. Une menace autrefois réservée aux acteurs disposant de ressources importantes est désormais à la portée de presque tous, ce qui explique pourquoi la fraude par deepfake est passée d’une nouveauté à un risque majeur pour les entreprises.

Ce changement est visible dans la montée en puissance de deepfake en tant que service des offres qui permettent à quiconque de louer des capacités de deepfake à la demande.

Quels sont les risques liés aux deepfakes ?

Les risques liés aux deepfakes vont bien au-delà d'une simple vidéo truquée. Ils englobent les préjudices financiers, réputationnels et sociétaux.

Fraude et usurpation d'identité

• Des visages synthétiques et des voix clonées sont utilisés pour usurper l'identité des clients, contourner l'intégration à distance et tromper les systèmes informatiques. vérifications d'âgeet ouvrir des comptes sous des identités volées ou inventées.

Dommages financiers et à la réputation

• Au-delà du vol direct, les entreprises doivent faire face à des rétrofacturations, des coûts de réparation et des sanctions réglementaires dans un contexte en constante évolution. lois sur les deepfakeset a perdu la confiance de ses clients, une confiance qu'il avait fallu des années pour bâtir.

Désinformation et manipulation

• Les vidéos truquées de personnalités publiques peuvent propager de fausses informations, et même des images authentiques peuvent être considérées comme fausses, ce qui a pour effet d'éroder progressivement la confiance du public.

Comment les deepfakes sont-ils utilisés dans les arnaques en ligne ?

Les deepfakes sont utilisés dans les escroqueries pour usurper l'identité d'une personne en qui la victime a déjà confiance, ce qui diminue sa vigilance. Les tactiques courantes incluent :

• Fraude des PDG et des dirigeants : Une voix ou une vidéo clonée d'un cadre supérieur autorisant un paiement urgent.
• Imitation de la famille et des amis : Des voix clonées lancent des appels de détresse réclamant de l'argent.
• Arnaques sentimentales et financières : Des personnages synthétiques conçus pour gagner la confiance au fil du temps.
• Faux témoignages : Des célébrités ou des responsables politiques faisant la promotion de cryptomonnaies et de systèmes de trading truqués.
• Contournement de la vérification : De faux selfies et des vidéos étaient utilisés pour contourner les contrôles d'identité à distance.

Le problème est bien réel. En 2024, un employé du service financier de la société d'ingénierie Arup a été dupé et a transféré environ 25 millions de dollars américains après avoir participé à une visioconférence où figuraient exclusivement des reconstitutions truquées (deepfakes) de ses supérieurs hiérarchiques.

Quels sont les secteurs les plus touchés par les deepfakes ?

Tout secteur qui repose sur la confiance accordée à l'identité ou à l'image d'une personne est exposé, mais certains sont ciblés plus fortement que d'autres :

• Services financiers et bancaires : Ouverture de compte, autorisation de paiement et virements de valeur élevée.
• Fintech et cryptomonnaie : Intégration rapide et à distance, et transactions irréversibles.
• Assurance: Allégations frauduleuses appuyées par des images et des vidéos manipulées.
• Ggouvernement et services publics : Fraude aux prestations et usurpation d'identité.
• Médias et divertissement: Attaques contre la réputation et déclarations fabriquées de toutes pièces.
• Télécommunications: Arnaques au remplacement de carte SIM et à la prise de contrôle de compte.
• Économie des petits boulots et du partage : Identités fictives du chauffeur, de l'hôte et du travailleur.

Télécommande KYC et les contrôles d'intégration constituent le point commun à tous les secteurs de cette liste.

Quels sont les signes les plus courants d'un deepfake ?

Bien que les contrefaçons les plus sophistiquées soient difficiles à déceler à l'œil nu, de nombreuses deepfakes laissent néanmoins des indices. Connaître les signes les plus courants permet aux individus et aux équipes de rester vigilants.

Signes visuels en vidéo et en images

• Clignements anormaux, ou yeux qui ne suivent pas ou ne reflètent pas la lumière de manière constante.
• Flou ou déformation à la jonction du visage avec les cheveux, les oreilles, les lunettes ou le décolleté.
• Une peau qui paraît trop lisse, cireuse ou dont l'éclairage est inadapté.
• Mouvements des lèvres légèrement désynchronisés, ou dents plates et indéfinies.
• Des contours et des ombres qui scintillent et se déplacent étrangement d'une image à l'autre.

Panneaux audio

• Une cadence plate ou robotique, avec des pauses ou des accents inhabituels.
• Bruit de fond qui apparaît et disparaît de façon anormale.
• Absence ou mauvais positionnement des bruits respiratoires et buccaux.

Signes contextuels

• Urgence, secret ou pression pour agir rapidement.
• Demandes inhabituelles, notamment celles impliquant de l'argent ou des justificatifs d'identité.
• Un canal ou un comportement qui ne correspond pas à la façon dont la personne communique habituellement.

Ces vérifications manuelles sont utiles aux particuliers, mais elles ne sont pas adaptées à grande échelle. Une entreprise qui vérifie l'identité de milliers de personnes ne peut pas examiner visuellement chaque selfie ou vidéo pour détecter les distorsions et les scintillements. Les organisations qui doivent détecter les contenus multimédias synthétiques automatiquement et à grande échelle s'appuient sur des solutions dédiées. détection de vivacité et la détection des deepfakes dans le cadre de leur processus de vérification d'identité.

Les deepfakes deviendront-ils impossibles à distinguer du contenu réel ?

Les deepfakes sont déjà suffisamment convaincants pour tromper l'œil humain, et leur qualité continuera de s'améliorer à mesure que leur génération deviendra plus rapide et moins coûteuse. Cependant, il est peu probable qu'ils deviennent totalement indiscernables. Parallèlement, des normes de provenance telles que les certificats de contenu, le tatouage numérique et la vérification multicouche progressent. Dans un avenir réaliste, l'authenticité sera constamment vérifiée et non présumée, et les organisations qui considèrent chaque identité comme un élément à confirmer seront les mieux placées pour y faire face.

Comment Shufti aide-t-il les entreprises à garder une longueur d'avance ?

Shufti propose des solutions de vérification d'identité et de prévention de la fraude aux entreprises de plus de 240 pays et territoires. En combinant la vérification biométrique, le contrôle de présence et l'analyse par IA des médias synthétiques, Shufti aide les organisations à confirmer que la personne derrière un écran est bien réelle, présente et conforme à son identité. Ainsi, les usurpations d'identité et les voix clonées sont détectées avant qu'elles ne causent des dommages. Pour découvrir comment cela fonctionne concrètement, explorez l'approche de Shufti. détection de deepfake, qui combine des contrôles de disponibilité, l'analyse forensique de documents et des signaux comportementaux dans un flux de vérification unique.