O que são Deepfakes? Como funcionam os vídeos e mídias gerados por IA?

O que é um deepfake? Como funcionam os vídeos e mídias gerados por IA?

Um deepfake é uma peça de mídia sintética, geralmente um vídeo, imagem ou clipe de áudio deepfake, que foi gerada ou alterada por inteligência artificial para fazer uma pessoa real parecer dizer ou fazer algo que nunca fez. O termo combina "aprendizado profundo" com "falso", e a IA para deepfakes avançou tão rapidamente que uma falsificação convincente agora pode ser criada a partir de apenas uma pequena amostra de imagens genuínas ou alguns segundos de fala gravada.

Como funciona um deepfake na prática?

Em termos técnicos, um deepfake é o resultado de um modelo de aprendizado de máquina treinado com exemplos reais de uma pessoa, como fotos, frames de vídeo ou gravações de áudio, até que aprenda os padrões que tornam essa pessoa reconhecível: a geometria do rosto, a maneira como se move, o tom e o ritmo da voz. Uma vez treinado, o modelo pode gerar novo material sob demanda, inserindo a pessoa em uma cena, uma frase ou um clipe de áudio no qual ela nunca apareceu de fato. O resultado não é editado a partir de imagens reais como uma foto pode ser recortada ou retocada; é gerado do zero pelo modelo, a mesma qualidade explorada em... ataques de apresentação e injeção de deepfakeE por que um deepfake bem feito pode resistir a uma análise minuciosa, enquanto uma edição manual não conseguiria.

Vídeo, imagem e áudio deepfake

Os deepfakes aparecem em três formas principais:

• Vídeo deepfake: o rosto ou corpo de uma pessoa real é inserido em uma gravação, ou suas expressões são manipuladas para corresponder a um roteiro que ela nunca interpretou.
• Imagens deepfake: uma foto estática de um rosto, um documento ou uma cena é fabricada ou alterada para parecer real.
• Áudio deepfake: uma voz é clonada a partir de uma pequena amostra e usada para dizer qualquer texto, uma técnica amplamente utilizada em golpes telefônicos e de engenharia social.

Uma breve história da tecnologia Deepfake

A tecnologia por trás dos deepfakes não surgiu da noite para o dia. A técnica principal, a rede generativa adversarial (GAN), foi introduzida em 2014 pelo pesquisador de aprendizado de máquina Ian Goodfellow, então estudante de doutorado, como uma forma de colocar duas redes neurais em competição até que uma produzisse imagens falsas convincentes. O termo "deepfake" só entrou em uso público em dezembro de 2017, quando um usuário anônimo do Reddit, postando com esse nome, começou a compartilhar vídeos manipulados por IA, dando à técnica tanto o nome quanto a notoriedade inicial. Em poucos anos, pesquisas que antes exigiam um laboratório dedicado foram incorporadas a aplicativos para o consumidor, transformando um exercício acadêmico de nicho em uma tecnologia disponível para qualquer pessoa com um smartphone.

Como funciona a IA Deepfake: GANs e modelos de difusão?

A inteligência artificial deepfake é alimentada principalmente por duas famílias de modelos:

• Redes Adversárias Generativas (GANs): duas redes neurais competem. Um gerador cria falsos alarmes enquanto um discriminador tenta detectá-los. À medida que competem, o gerador aprimora seu desempenho até que sua saída consiga enganar tanto o discriminador quanto, frequentemente, um observador humano.
• Modelos de difusão: a tecnologia por trás de muitos dos geradores de imagem e vídeo mais realistas da atualidade. Eles aprendem a reverter um processo de adição de ruído, de modo que podem partir de ruído aleatório e refiná-lo gradualmente até obter um resultado fotorrealista.

Ambas as abordagens reduziram as barreiras de entrada. O que antes exigia grandes conjuntos de dados e conhecimento técnico agora pode ser feito com aplicativos de consumo, às vezes em tempo real durante uma chamada de vídeo ao vivo.

Essa mudança foi acelerada por deepfake de IA generativa Ferramentas capazes de produzir vídeo e áudio sintéticos em segundos.

Os diferentes tipos de deepfakes

• Troca de rostos: o rosto de uma pessoa é sobreposto ao rosto de outra pessoa em um vídeo.
• Reencenação facial: o rosto da pessoa retratada é mantido, mas suas expressões e movimentos de cabeça são controlados por um ator ou roteiro.
• Deepfakes de sincronização labial: imagens existentes são alteradas para que a boca corresponda ao novo áudio.
• Clonagem de voz: uma cópia sintética de uma voz real, criada a partir de apenas alguns segundos de fala.
• Síntese de corpo inteiro e de texto para vídeo: pessoas e cenas inteiras geradas do zero, cada vez mais a partir de um simples texto.

Deepfakes vs Cheapfakes: Por que a distinção é importante?

Nem todo vídeo manipulado é um deepfake. Pesquisadores usam o termo "fake barato", às vezes chamado de "shallowfake", para mídias alteradas por meio de métodos simples e de baixo custo, em vez de aprendizado de máquina: cortar trechos de vídeo fora de contexto, acelerar ou desacelerar um clipe, rotular incorretamente um vídeo genuíno ou usar um software de edição básico para trocar um rosto. Fakes baratos não exigem inteligência artificial, o que os torna muito mais fáceis de produzir e, na prática, tão capazes de enganar o público quanto os originais. Essa distinção é importante para a verificação: um fake barato geralmente pode ser detectado verificando a fonte original ou o contexto, enquanto um deepfake genuíno requer o tipo de análise técnica descrita neste guia. Tratar todo vídeo suspeito como um potencial deepfake pode levar ao risco de ignorar o truque mais simples e comum por trás dele.

A Evolução da Tecnologia Deepfake

Os primeiros deepfakes exigiam horas de processamento e ainda apresentavam falhas. Desde então, a tecnologia evoluiu em três aspectos: os modelos precisam de muito menos material de origem, a geração é rápida o suficiente para ser executada em tempo real e as ferramentas prontas para uso se disseminaram amplamente. Uma ameaça antes restrita a agentes com muitos recursos agora está ao alcance de quase qualquer pessoa, e é por isso que a fraude com deepfakes deixou de ser uma novidade para se tornar um risco comercial comum.

Essa mudança é visível na ascensão de deepfake como serviço ofertas que permitem a qualquer pessoa alugar recursos de deepfake sob demanda.

Quais são os riscos dos deepfakes?

Os riscos dos deepfakes vão muito além de um único vídeo falso. Eles abrangem danos financeiros, à reputação e à sociedade.

Fraude de identidade e falsificação de identidade

• Rostos sintéticos e vozes clonadas são usados ​​para se passar por clientes, burlar o processo de integração remota e derrotar verificações de idadee abrem contas usando identidades roubadas ou inventadas.

Danos financeiros e reputacionais

• Além do roubo direto, as empresas enfrentam estornos, custos de remediação e penalidades regulatórias em um cenário de constante evolução. leis de deepfake, e perdeu a confiança dos clientes que levou anos para ser construída.

Desinformação e Manipulação

• Vídeos fabricados de figuras públicas podem disseminar informações falsas, e até mesmo imagens genuínas podem ser descartadas como falsas, um efeito que corrói constantemente a confiança pública.

Como os deepfakes são usados ​​em golpes online?

Deepfakes são usados ​​em golpes para se passar por alguém em quem a vítima já confia, baixando sua guarda. Táticas comuns incluem:

• Fraude de CEO e executivos: Uma voz ou vídeo clonado de um líder sênior autorizando um pagamento urgente.
• Fingir ser um familiar ou amigo: Vozes clonadas em chamadas de socorro exigindo dinheiro.
• Golpes românticos e de investimento: Personas sintéticas criadas para ganhar confiança ao longo do tempo.
• Endossos falsos: Celebridades ou autoridades com deepfakes promovendo criptomoedas e esquemas de negociação.
• Burla da verificação: Selfies e vídeos falsos são usados ​​para burlar verificações de identidade remotas.

A dimensão do problema é real. Em 2024, um funcionário da área financeira da empresa de engenharia Arup foi enganado e transferiu cerca de US$ 25 milhões após participar de uma videochamada composta inteiramente por recriações deepfake de colegas de alto escalão.

Quais setores são mais afetados pelos deepfakes?

Qualquer setor que dependa da confiança na identidade ou imagem de uma pessoa fica exposto, mas alguns são visados ​​com mais intensidade do que outros:

• Serviços financeiros e bancários: Abertura de conta, autorização de pagamento e transferências de alto valor.
• Fintech e criptomoedas: Integração rápida e remota e transações irreversíveis.
• Seguro: Alegações fraudulentas apoiadas por imagens e vídeos manipulados.
• GGoverno e serviços públicos: Fraude em benefícios e uso indevido de identidade.
• Mídia e entretenimento: Ataques à reputação e declarações fabricadas.
• Telecomunicações: Golpes de suporte para troca de SIM e apropriação de contas.
• Economia de trabalho sob demanda e compartilhada: Identidades falsas de motorista, anfitrião e funcionário.

Remote KYC E as verificações de integração são o elemento comum a todos os setores desta lista.

Quais são os sinais mais comuns de um deepfake?

Embora as falsificações mais sofisticadas sejam difíceis de detectar a olho nu, muitas deepfakes ainda deixam pistas. Conhecer os sinais comuns ajuda pessoas e equipes a se manterem alertas.

Sinais visuais em vídeo e imagens

• Piscar de olhos de forma anormal, ou olhos que não acompanham ou refletem a luz de maneira consistente.
• Desfoque ou distorção na região onde o rosto encontra o cabelo, as orelhas, os óculos ou o decote.
• Pele com aspecto excessivamente liso, ceroso ou com tonalidade inadequada em relação à iluminação.
• Movimentos labiais ligeiramente dessincronizados ou dentes planos e indefinidos.
• Bordas tremeluzentes e sombras que se deslocam de forma estranha entre os fotogramas.

Sinais sonoros

• Uma cadência monótona ou robótica, com pausas ou ênfases incomuns.
• Ruído de fundo que surge e desaparece de forma não natural.
• Sons respiratórios e bucais ausentes ou deslocados.

Sinais contextuais

• Urgência, sigilo ou pressão para agir rapidamente.
• Pedidos incomuns, especialmente envolvendo dinheiro ou credenciais.
• Um canal ou comportamento que não corresponde à forma como a pessoa normalmente se comunica.

Essas verificações manuais ajudam os indivíduos, mas não são escaláveis. Uma empresa que verifica milhares de pessoas não consegue analisar visualmente cada selfie ou vídeo em busca de distorções e oscilações. Organizações que precisam detectar mídias sintéticas de forma automática e em grande escala dependem de soluções desenvolvidas especificamente para esse fim. detecção de vivacidade e a detecção de deepfakes como parte do processo de verificação de identidade.

Será que os deepfakes se tornarão indistinguíveis do conteúdo real?

Os deepfakes já são suficientemente convincentes para enganar o olho humano, e a qualidade continuará a melhorar à medida que a geração se tornar mais barata e rápida. Mas é improvável que se tornem verdadeiramente impossíveis de distinguir. Padrões de procedência, como credenciais de conteúdo, marcas d'água digitais e verificação em camadas, estão avançando em paralelo. O futuro realista é uma disputa contínua na qual a autenticidade é verificada em vez de presumida, e as organizações que tratarem cada identidade como algo a ser confirmado estarão em melhor posição para lidar com isso.

Como a Shufti ajuda as empresas a se manterem à frente da concorrência?

A Shufti oferece verificação de identidade e prevenção de fraudes para empresas em mais de 240 países e territórios. Combinando verificação biométrica, testes de vivacidade e análise de mídia sintética orientada por IA, a Shufti ajuda as organizações a confirmar se a pessoa por trás da tela é genuína, está presente e é quem afirma ser, de modo que rostos falsos e vozes clonadas sejam detectados antes que causem danos. Para ver como isso funciona na prática, explore a abordagem da Shufti. detecção de deepfake, que combina verificações de vivacidade, análise forense de documentos e sinais comportamentais em um único fluxo de verificação.