Detección de deepfakes mediante IA generativa: por qué las capas legales y técnicas deben trabajar juntas.

A principios de 2024, un empleado de la empresa de ingeniería Arup aprobó un Transferencia de $ 25 millones Tras una videollamada con personas que creía que eran colegas de alto rango, se dio cuenta de que ninguna era real. Cada rostro y cada voz en esa llamada eran un deepfake generado por IA, y la transferencia bancaria se realizó antes de que nadie se percatara de que la reunión nunca había ocurrido..

Si gestionas procesos de fraude, verificación de identidad (KYC) o incorporación de clientes en una empresa regulada, el caso de Arup no es un caso aislado. Es un ejemplo de cómo la IA generativa identifica pruebas cuando las herramientas de detección no alcanzan el nivel de los modelos que generan los ataques.

Un deepfake de IA generativa es un audio, imagen o video sintético producido por modelos modernos de difusión o multimodales, diseñado para parecerse a una persona real específica. A diferencia de los falsificamientos de la era GAN de 2019, estos resultados carecen casi por completo de las características visibles con las que se entrenaron los primeros detectores. Si a esto le sumamos la inferencia en la nube de bajo costo y las herramientas de intercambio de rostros de uso doméstico, el problema de la detección ya no es un ejercicio de laboratorio.

El ámbito regulatorio también está cambiando. Artículo 50 de la Ley de IA de la UE, que entrará en vigor el 2 de agosto de 2026, exige a los implementadores de sistemas de IA que generan contenido deepfake que revelen que el contenido ha sido generado artificialmente (Artículo 50 de la Ley de IA de la UE, Instituto del Futuro de la VidaLa detección técnica por sí sola no será suficiente. Lo que los equipos realmente necesitan es un marco por capas que combine señales biométricas en tiempo de ejecución con la procedencia del contenido en origen y un respaldo de divulgación legal. Este artículo explica cómo funciona ese marco y qué significa para la forma en que evalúa. Verificación de identidad .

Por qué la IA generativa rompió con el antiguo modelo de detección.

Durante la mayor parte de la última década, los detectores de deepfakes buscaban pequeños artefactos que dejaban los modelos generativos. Parpadeo irregular, textura de piel inconsistente, iluminación desigual en el rostro, lóbulos de las orejas deformados donde los datos de entrenamiento eran escasos. Cuando alguien de tu equipo de detección de fraude decía que una selfie "parecía rara", generalmente estaba detectando uno de esos detalles sin necesidad de mencionarlo.

La IA generativa moderna eliminó la mayoría de ellas. Los modelos de difusión producen texturas de piel que se leen como auténticas bajo una inspección a nivel de píxeles. Los sistemas de clonación de voz capturan la cadencia y la respiración de unos pocos segundos de audio. Los sistemas de intercambio de rostros ahora se ejecutan en tiempo real durante una transmisión de video, no como un clip prerrenderizado. UNESCO Un artículo sobre medios sintéticos denomina a este cambio una "crisis del conocimiento", porque los artefactos en los que solíamos confiar han desaparecido.

Tres cambios específicos son importantes para KYC y equipos de fraude.

En primer lugar, la accesibilidad. Las herramientas de intercambio de rostros que antes requerían una GPU y una semana de ajustes, ahora funcionan en un navegador. Un estafador no necesita conocimientos de aprendizaje automático para producir un vídeo convincente del rostro de otra persona.

En segundo lugar, la superficie de ataque cambió. El software de cámara virtual permite a un atacante inyectar una transmisión pregrabada o generada en vivo en un flujo de verificación, evitando por completo la cámara real del teléfono. Este es un ataque de inyección y no activa solo RGB. cheques de vida que asumen que los píxeles provienen de una lente real.

En tercer lugar, la vida útil de la detección se redujo. Un clasificador entrenado con los deepfakes del año pasado es notablemente más débil frente a los modelos de este año. 2024 NIST GenAI Un estudio piloto demostró que la precisión de la detección resiste los ataques de tipo resumen, pero señaló la deriva del modelo como un riesgo constante para cualquier detector implementado.

El marco jurídico emergente se basa en los derechos, no es meramente técnico.

Los reguladores han dejado de tratar los deepfakes simplemente como una tipología de fraude. El nuevo enfoque se acerca más a un problema de derechos humanos, donde los medios sintéticos amenazan la identidad, la reputación y el consentimiento informado. Un artículo reciente revisado por pares en el International Journal of Law, Crime and Justice aboga precisamente por ese cambio, proponiendo un marco legal que trata detección de deepfake como un deber de protección de derechos, más que como una característica de la plataforma.

El artículo 50 de la Ley de IA de la UE establece el primer plazo improrrogable. A partir del 2 de agosto de 2026, quienes implementen sistemas de IA que generen o manipulen contenido de imagen, audio o vídeo que constituya un deepfake deberán indicar que dicho contenido ha sido generado artificialmente. Esta misma disposición exige el marcado legible por máquina de los resultados sintéticos e informa a los usuarios cuando interactúan con un sistema de IA. Las excepciones son limitadas y abarcan las investigaciones penales legítimas y las obras artísticas o satíricas evidentes.

La Comisión Europea ha estado trabajando en los detalles de implementación a través de su Código de Buenas Prácticas sobre el marcado y etiquetado de contenido generado por IA, cuya versión final se espera para junio de 2026, antes de la entrada en vigor del Artículo 50. Para un equipo de prevención de fraude o cumplimiento normativo, la implicación práctica es que la excusa de «no pudimos determinar que era falso» deja de ser válida en los procesos de incorporación regulados a partir de esa fecha.

La otra pieza del rompecabezas es la procedencia del contenido. C2PA El estándar, desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), define cómo los archivos multimedia pueden contener metadatos a prueba de manipulaciones sobre quién los creó, con qué herramienta y cómo se editaron. C2PA no es un detector de deepfakes. Registra el historial. Junto con la detección, proporciona a los equipos dos señales independientes para verificar cuando un envío llega a través de un flujo de verificación.

Un modelo de detección de tres capas para equipos de KYC y fraude

La solución definitiva contra los deepfakes generados por IA generativa no reside en un único clasificador más inteligente, sino en una defensa por capas, ya que ninguna capa sobrevive por sí sola.

La primera capa es la detección biométrica en tiempo real. Esta abarca las señales que una cámara puede producir durante la verificación. El análisis en el dominio de la frecuencia detecta artefactos invisibles en la vista RGB, pero que se hacen visibles al transformar la imagen. Las comprobaciones de profundidad 3D y paralaje confirman la presencia de un rostro tridimensional. Las señales de comportamiento, incluidos los micromovimientos y la respuesta a indicaciones pasivas, permiten distinguir a una persona real de una transmisión reproducida o manipulada. Una capa de detección de vitalidad bien diseñada también filtra los ataques de inyección desde cámaras virtuales, no solo desde fotos impresas y reproducciones de pantalla.

La segunda capa es la procedencia del contenido. Cuando un envío incluye credenciales C2PA, un sistema de verificación puede comprobar quién firmó el contenido, qué cámara o herramienta de edición se utilizó y si se han modificado los metadatos desde su creación. Leica, Samsung y Google han comenzado a incluir la firma C2PA nativa en hardware de consumo, por lo que los medios con credenciales ya no son una mera teoría. Un envío sin credenciales no es automáticamente fraudulento, pero su ausencia es una señal que merece ser tenida en cuenta en la evaluación de riesgos.

La tercera capa consiste en la revisión humana, sumada al respaldo de la divulgación legal. La revisión híbrida, que combina IA y revisión humana, gestiona los casos excepcionales donde la confianza automatizada es baja y deriva las sesiones ambiguas a revisores capacitados, en lugar de imponer una aceptación o rechazo binario. Una vez en vigor, las obligaciones de divulgación del Artículo 50 convierten la capa legal en una parte ejecutable de la arquitectura. El contenido que debería haber sido etiquetado y no lo fue genera una infracción documentada, lo que fortalece la posición de las empresas que actuaron con la debida diligencia.

Próximos pasos prácticos para los equipos de cumplimiento normativo y prevención del fraude.

Vale la pena realizar algunas comprobaciones en su sistema actual. Verificación de identidad apilar antes de que entre en vigor el artículo 50.

Pregunte a su proveedor si su modelo de detección de actividad en tiempo real analiza la inyección de cámaras virtuales, y no solo los ataques de reproducción de pantalla e impresión. Pregunte si la detección está validada por un organismo gubernamental o independiente, en lugar de por el propio laboratorio del proveedor, ya que las cifras de precisión autoinformadas tienen un historial deficiente frente a los vectores de ataque actuales. Confirme que existe un proceso de revisión para las sesiones con baja confianza automatizada, ya que la toma de decisiones totalmente automatizada en ataques de IA generativa es la forma en que se filtran los fraudes legítimos.

Adapta ahora el texto de tu informe de incorporación a la obligación establecida en el artículo 50, en lugar de hacerlo posteriormente en julio de 2026. El texto del Código de Buenas Prácticas, que se publicará en junio, especificará los detalles, así que deja margen en el ciclo de revisión del texto para incorporarlo.

Las falsificaciones profundas (deepfakes) creadas con IA generativa ya están presentes en los flujos de verificación en tiempo real, y la brecha entre "nuestra verificación de autenticidad ha pasado" y "hemos verificado que se trata de una persona real" es donde se producen pérdidas como la del caso Arup. Detección de deepfakes de Shufti Combina una protección multicapa contra la suplantación de identidad en más de 56 vectores de ataque con una revisión híbrida basada en IA y análisis humano, detección de actividad activa y pasiva, y despliegue local, en la nube o híbrido. Solicita una demo para procesar una muestra de deepfake de IA generativa a través del proceso y ver el veredicto.