Détection des deepfakes par IA générative : pourquoi les aspects juridiques et techniques doivent collaborer

Début 2024, un employé de la société d'ingénierie Arup a approuvé un Transfert de 25 millions de dollars Après un appel vidéo avec des personnes qu'elle croyait être des collègues de haut rang. Aucun d'eux n'était réel. Chaque visage, chaque voix lors de cet appel était un deepfake généré par une intelligence artificielle, et le virement bancaire a été effectué avant que quiconque ne réalise que la réunion n'avait jamais eu lieu..

Si vous gérez des systèmes de lutte contre la fraude, de connaissance du client (KYC) ou d'intégration de nouveaux employés au sein d'une entreprise réglementée, le cas d'Arup n'est pas un cas isolé. Il illustre parfaitement l'impact de l'IA générative sur l'identification des preuves lorsque les outils de détection sont moins performants que les modèles à l'origine des attaques.

Un deepfake généré par IA générative est un contenu audio, image ou vidéo synthétique produit par des modèles de diffusion ou multimodaux modernes, conçu pour ressembler à une personne réelle spécifique. Contrairement aux deepfakes de l'ère des GAN de 2019, ces productions ne présentent quasiment aucun des indices visuels sur lesquels les premiers détecteurs étaient entraînés. Avec l'avènement de l'inférence dans le cloud à bas coût et des outils de remplacement de visage grand public, la détection n'est plus un exercice de laboratoire.

Le secteur réglementaire évolue lui aussi. Article 50 de la loi européenne sur l'IA, qui entrera en vigueur le 2 août 2026, exige que les déployeurs de systèmes d'IA générant du contenu deepfake divulguent que le contenu a été généré artificiellement (Article 50 de la loi européenne sur l'IA, Institut du futur de la vieLa détection technique seule ne suffira pas. Les équipes ont besoin d'un cadre multicouche qui associe les signaux biométriques en temps réel à la provenance du contenu à la source et à une garantie de divulgation légale. Cet article explique le fonctionnement de ce cadre et ses implications sur la manière dont vous évaluez les données. vérification d'identité dès aujourd’hui.

Pourquoi l'IA générative a bouleversé les anciennes méthodes de détection

Pendant la majeure partie de la dernière décennie, les détecteurs de deepfakes recherchaient les petits artefacts laissés par les modèles génératifs : clignements d’yeux irréguliers, texture de peau incohérente, éclairage inégal sur le visage, lobes d’oreilles déformés là où les données d’entraînement étaient peu nombreuses. Lorsqu’un membre de votre équipe antifraude disait qu’un selfie « avait l’air bizarre », il avait généralement repéré l’un de ces indices sans avoir besoin de le nommer.

L'IA générative moderne en a effacé la plupart. Les modèles de diffusion produisent une texture de peau d'un réalisme saisissant, même au niveau du pixel. Les systèmes de clonage vocal capturent le rythme et la respiration à partir de quelques secondes d'audio. Les processus d'échange de visages s'exécutent désormais en temps réel pendant un flux vidéo, et non plus sur un clip pré-rendu. UNESCO Un article sur les médias synthétiques qualifie ce changement de « crise de la connaissance », car les artefacts auxquels nous faisions confiance ont disparu.

Trois changements spécifiques sont importants pour KYC et les équipes de lutte contre la fraude.

Tout d'abord, l'accessibilité. Les outils de remplacement de visage qui nécessitaient autrefois un GPU et une semaine de réglages minutieux fonctionnent désormais directement dans un navigateur. Un fraudeur n'a plus besoin de compétences en apprentissage automatique pour produire une vidéo convaincante du visage d'une autre personne.

Deuxièmement, la surface d'attaque a évolué. Les logiciels de caméra virtuelle permettent à un attaquant d'injecter un flux vidéo préenregistré ou généré en direct dans un processus de vérification, contournant ainsi la caméra physique du téléphone. Il s'agit d'une attaque par injection, et elle ne déclenche pas uniquement une vulnérabilité RGB. contrôles de vivacité qui supposent que les pixels proviennent d'un véritable objectif.

Troisièmement, la durée de validité de la détection a diminué. Un classificateur entraîné sur les deepfakes de l'année dernière est sensiblement moins performant que les modèles de cette année. 2024 NIST GenAI Une étude pilote a démontré que la précision de la détection résistait aux attaques de type résumé, mais a mis en évidence la dérive du modèle comme un risque permanent pour tout détecteur déployé.

Le cadre juridique émergent est fondé sur les droits, et non pas seulement sur des aspects techniques.

Les autorités réglementaires ont cessé de considérer les deepfakes uniquement comme une forme de fraude. La nouvelle approche s'apparente davantage à un problème de droits humains, où les médias synthétiques menacent l'identité, la réputation et le consentement éclairé. Un article récent, publié dans l'International Journal of Law, Crime and Justice et évalué par des pairs, plaide précisément pour ce changement de perspective, en proposant un cadre juridique qui traite les deepfakes comme une atteinte aux droits humains. détection de deepfake comme un devoir de protection des droits plutôt que comme une fonctionnalité de la plateforme.

L’article 50 de la loi européenne sur l’IA constitue la première échéance contraignante. À compter du 2 août 2026, les utilisateurs de systèmes d’IA générant ou manipulant des contenus image, audio ou vidéo constituant un deepfake devront indiquer que ces contenus sont artificiels. Cette même disposition impose un marquage lisible par machine des résultats synthétiques et informe les utilisateurs lorsqu’ils interagissent avec un système d’IA. Les exemptions sont limitées et concernent les enquêtes pénales légales ainsi que les œuvres manifestement artistiques ou satiriques.

La Commission européenne travaille actuellement sur les modalités de mise en œuvre, via son code de bonnes pratiques relatif au marquage et à l'étiquetage des contenus générés par l'IA, dont la version finale est attendue en juin 2026, avant l'entrée en vigueur de l'article 50. Concrètement, pour les équipes chargées de la lutte contre la fraude ou de la conformité, cela signifie que l'argument « nous n'avons pas pu déterminer qu'il s'agissait d'un faux » ne sera plus recevable comme défense dans les processus d'intégration réglementés à compter de cette date.

L'autre pièce du puzzle est la provenance du contenu. C2PA La norme C2PA, développée par la Coalition pour la provenance et l'authenticité du contenu (C2PA), définit comment les fichiers multimédias peuvent contenir des métadonnées infalsifiables indiquant leur auteur, l'outil utilisé et les modifications apportées. C2PA n'est pas un détecteur de deepfakes ; il enregistre l'historique. Associé à la détection, il fournit aux équipes deux signaux indépendants à recouper lors de la réception d'une soumission dans le cadre d'un processus de vérification.

Un modèle de détection à trois niveaux pour les équipes KYC et de lutte contre la fraude

La solution durable aux deepfakes générés par l'IA générative ne réside pas dans un simple classificateur plus performant. Elle repose sur une défense multicouche, car aucune couche ne peut survivre seule.

La première couche assure la détection biométrique en temps réel. Elle couvre les signaux qu'une caméra peut produire en temps réel lors de la vérification. L'analyse fréquentielle détecte les artefacts invisibles en RGB, mais visibles après transformation de l'image. Les contrôles de profondeur 3D et de parallaxe confirment la présence d'un visage en trois dimensions. Les indices comportementaux, tels que les micromouvements et les réponses aux sollicitations passives, permettent de distinguer une personne réelle d'un flux vidéo rejoué ou injecté. Une couche de détection de présence bien conçue protège également contre les attaques par injection provenant de caméras virtuelles, et pas seulement des photos imprimées et des relectures d'écran.

La deuxième étape concerne la provenance du contenu. Lorsqu'une soumission comporte des identifiants C2PA, un système de vérification peut contrôler qui a signé le contenu, quel appareil photo ou logiciel de montage a été utilisé et si les métadonnées ont été modifiées depuis sa création. Leica, Samsung et Google ont commencé à intégrer la signature C2PA native sur leurs appareils grand public ; les supports authentifiés ne sont donc plus une simple hypothèse. Une soumission sans identifiants n'est pas automatiquement considérée comme frauduleuse, mais cette absence constitue un signal à prendre en compte dans l'évaluation des risques.

La troisième couche consiste en une vérification humaine, complétée par une garantie de divulgation légale. La vérification hybride, combinant IA et intervention humaine, traite les cas limites où la fiabilité automatisée est faible et oriente les sessions ambiguës vers des réviseurs formés plutôt que d'imposer une décision binaire d'acceptation ou de rejet. Une fois en vigueur, les obligations de divulgation prévues par l'article 50 transforment la couche légale en une composante exécutoire de l'architecture. Tout contenu qui aurait dû être étiqueté et ne l'a pas été constitue une violation documentée, ce qui renforce la position des entreprises ayant fait preuve de diligence raisonnable.

Prochaines étapes pratiques pour les équipes de conformité et de lutte contre la fraude

Il est judicieux d'effectuer quelques vérifications sur votre système actuel. vérification d'identité empiler avant l'entrée en vigueur de l'article 50.

Demandez à votre fournisseur si son modèle de détection de présence prend en charge l'injection par caméra virtuelle, et pas seulement les attaques par impression et relecture d'écran. Assurez-vous que la détection est validée par un organisme gouvernemental ou indépendant plutôt que par le laboratoire du fournisseur, car les chiffres de précision auto-déclarés sont peu fiables face aux vecteurs d'attaque actuels. Vérifiez qu'il existe une procédure de révision pour les sessions où le niveau de confiance du système automatisé est faible, car les décisions entièrement automatisées concernant les attaques par IA générative permettent souvent à des fraudes légitimes de passer entre les mailles du filet.

Alignez dès maintenant votre langage de divulgation lors de l'intégration avec l'obligation de l'article 50, plutôt que de le faire rétroactivement en juillet 2026. Le texte du Code de pratique qui paraîtra en juin précisera les détails, alors prévoyez de la place dans le cycle de révision des textes pour l'intégrer.

Les deepfakes générés par l'IA sont déjà intégrés aux flux de vérification en direct, et c'est dans l'écart entre « notre vérification de présence est concluante » et « nous avons vérifié une personne réelle » que se situent désormais des pertes comme celle d'Arup. Détection de deepfakes par Shufti combine une protection anti-usurpation multicouche sur plus de 56 vecteurs d'attaque avec une analyse hybride par IA et humaine, une disponibilité active et passive, et un déploiement sur site, dans le cloud ou hybride. Démo en visio pour faire passer un échantillon de deepfake généré par IA générative dans le pipeline et voir le verdict.