Cosa sono i deepfake? Come funzionano i video e i contenuti multimediali generati dall'intelligenza artificiale?

Cos'è un deepfake? Come funzionano i video e i contenuti multimediali generati dall'intelligenza artificiale.

Un deepfake è un contenuto multimediale sintetico, il più delle volte un video, un'immagine o una clip audio, generato o modificato dall'intelligenza artificiale per far apparire una persona reale mentre dice o fa qualcosa che non ha mai fatto. Il termine fonde "deep learning" (apprendimento profondo) con "fake" (falso), e l'IA applicata ai deepfake si è evoluta così rapidamente che ora è possibile creare un falso convincente a partire da un piccolo campione di filmato autentico o da pochi secondi di voce registrata.

Come funziona esattamente un deepfake?

A livello tecnico, un deepfake è l'output di un modello di apprendimento automatico addestrato su esempi reali di una persona, foto, fotogrammi video o registrazioni audio, fino a quando non impara i modelli che rendono quella persona riconoscibile: la geometria del suo viso, il modo in cui si muove, il tono e il ritmo della sua voce. Una volta addestrato, il modello può generare nuovo materiale su richiesta, inserendo la persona in una scena, una frase o una clip audio in cui non è mai effettivamente apparsa. L'output non è modificato da filmati reali come una foto potrebbe essere ritagliata o ritoccata; è generato da zero dal modello, la stessa qualità sfruttata in Attacchi di presentazione e iniezione di deepfakee perché un deepfake ben fatto può reggere a un esame più approfondito rispetto a una modifica manuale.

Video, immagini e audio deepfake

I deepfake si presentano in tre forme principali:

• Video deepfake: il volto o il corpo di una persona reale vengono sostituiti in un filmato, oppure le sue espressioni vengono manipolate per adattarsi a una sceneggiatura che non ha mai recitato.
• Immagini deepfake: una foto statica di un volto, di un documento o di una scena viene falsificata o alterata per apparire reale.
• Audio deepfake: una voce viene clonata da un breve campione e fatta pronunciare un qualsiasi testo, una tecnica ampiamente utilizzata nelle truffe telefoniche e di ingegneria sociale.

Breve storia della tecnologia deepfake

La tecnologia alla base dei deepfake non è nata dal nulla. La tecnica principale, la rete generativa avversaria (GAN), è stata introdotta nel 2014 dal ricercatore di machine learning Ian Goodfellow, all'epoca dottorando, come metodo per mettere a confronto due reti neurali fino a quando una delle due non producesse immagini false convincenti. Il termine "deepfake" è entrato nell'uso comune solo nel dicembre 2017, quando un utente anonimo di Reddit, con questo pseudonimo, ha iniziato a condividere video manipolati dall'intelligenza artificiale, dando alla tecnica sia il nome che la notorietà iniziale. Nel giro di pochi anni, la ricerca che un tempo richiedeva un laboratorio dedicato è stata trasformata in app per i consumatori, rendendo un esercizio accademico di nicchia una tecnologia accessibile a chiunque possieda uno smartphone.

Come funziona l'IA deepfake: GAN e modelli di diffusione?

L'intelligenza artificiale dei deepfake si basa principalmente su due famiglie di modelli:

• Reti Generative Avversarie (GAN): due reti neurali competono. Un generatore crea risultati falsi mentre un discriminatore cerca di individuarli. Durante la competizione, il generatore migliora fino a quando il suo output non riesce a ingannare sia il discriminatore sia, spesso, un osservatore umano.
• Modelli di diffusione: la tecnologia alla base di molti dei generatori di immagini e video più realistici di oggi. Imparano a invertire un processo di aggiunta di rumore, in modo da poter partire da rumore casuale e perfezionarlo gradualmente fino a ottenere un risultato fotorealistico.

Entrambi gli approcci hanno abbassato la barriera d'ingresso. Ciò che un tempo richiedeva grandi set di dati e competenze tecniche ora può essere realizzato con app per i consumatori, a volte in tempo reale durante una videochiamata in diretta.

Questo cambiamento è stato accelerato da deepfake generativo basato sull'IA Strumenti in grado di produrre video e audio sintetici in pochi secondi.

Le diverse tipologie di deepfake

• Scambio di volti: il volto di una persona viene sovrapposto al volto di un'altra persona in un video.
• Ricostruzione facciale: il volto del soggetto viene mantenuto, ma le espressioni e i movimenti della testa sono controllati da un attore o da un copione.
• Deepfake con sincronizzazione labiale: filmati preesistenti vengono modificati in modo che il movimento della bocca corrisponda al nuovo audio.
• Clonazione vocale: una copia sintetica di una voce reale, creata a partire da pochi secondi di parlato.
• Sintesi di figure intere e da testo a video: persone e scene intere generate da zero, sempre più spesso a partire da un semplice input testuale.

Deepfake contro Cheapfake: perché la distinzione è importante?

Non tutti i video manipolati sono deepfake. I ricercatori usano il termine "cheap fake", a volte chiamato "shallowfake", per indicare i contenuti multimediali alterati con metodi semplici ed economici, anziché con l'apprendimento automatico: ad esempio, estrapolando filmati dal contesto, rallentando o accelerando una clip, etichettando erroneamente un video autentico o utilizzando software di editing di base per sostituire un volto. I cheap fake non richiedono alcuna intelligenza artificiale, il che li rende molto più facili da produrre e, in pratica, altrettanto efficaci nell'ingannare il pubblico. La distinzione è fondamentale per la verifica: un cheap fake può spesso essere smascherato controllando la fonte o il contesto originali, mentre un vero deepfake richiede il tipo di analisi tecnica descritta in questa guida. Considerare ogni video sospetto come un potenziale deepfake rischia di far passare inosservato il trucco più semplice e comune che si cela dietro di esso.

L'evoluzione della tecnologia deepfake

I primi deepfake richiedevano ore di elaborazione e presentavano comunque dei difetti. Da allora, la tecnologia si è evoluta in tre modi: i modelli necessitano di molto meno materiale di partenza, la generazione è sufficientemente rapida da poter essere eseguita in tempo reale e gli strumenti preconfezionati si sono diffusi ampiamente. Una minaccia un tempo limitata ad attori con grandi risorse è ora alla portata di quasi chiunque, ed è per questo che la frode deepfake è passata dall'essere una novità a un rischio aziendale di portata generale.

Questo cambiamento è visibile nell'aumento di deepfake come servizio offerte che consentono a chiunque di noleggiare funzionalità deepfake su richiesta.

Quali sono i rischi dei deepfake?

I rischi dei deepfake vanno ben oltre un singolo video falso. Comprendono danni finanziari, reputazionali e sociali.

Furto d'identità e usurpazione di identità

• I volti sintetici e le voci clonate vengono utilizzati per impersonare i clienti, aggirare l'onboarding remoto, sconfiggere controlli di verifica dell'etàe aprire conti correnti utilizzando identità rubate o inventate.

Danni finanziari e di reputazione

• Oltre al furto diretto, le aziende devono affrontare storni, costi di ripristino e sanzioni normative in continua evoluzione leggi sui deepfakee ha perso la fiducia dei clienti, conquistata in anni di lavoro.

Disinformazione e manipolazione

• I video falsificati di personaggi pubblici possono diffondere dichiarazioni false, e persino i filmati autentici possono essere liquidati come falsi, un effetto che erode costantemente la fiducia del pubblico.

Come vengono utilizzati i deepfake nelle truffe online?

I deepfake vengono utilizzati nelle truffe per impersonare qualcuno di cui la vittima si fida già, abbassando così la sua guardia. Le tattiche più comuni includono:

• Frodi commesse da amministratori delegati e dirigenti: Una registrazione vocale o video clonata di un dirigente di alto livello che autorizza un pagamento urgente.
• Imitazione di familiari e amici: Voci clonate in chiamate di soccorso in cui si chiedono soldi.
• Truffe sentimentali e finanziarie: Personalità sintetiche create per conquistare la fiducia nel tempo.
• False testimonianze: Immagini deepfake di celebrità o funzionari che promuovono criptovalute e schemi di trading.
• Bypass della verifica: Selfie e video falsi utilizzati per eludere i controlli di identità a distanza.

La portata del fenomeno è reale. Nel 2024, un impiegato del settore finanziario della società di ingegneria Arup è stato indotto con l'inganno a trasferire circa 25 milioni di dollari dopo aver partecipato a una videochiamata popolata interamente da ricostruzioni deepfake di colleghi di alto livello.

Quali settori sono maggiormente colpiti dai deepfake?

Qualsiasi settore che si basi sulla fiducia nell'identità o nell'immagine di una persona è esposto, ma alcuni sono presi di mira più duramente di altri:

• Servizi finanziari e bancari: Apertura di conti, autorizzazione di pagamento e bonifici di importo elevato.
• Fintech e criptovalute: Processo di onboarding rapido e da remoto e transazioni irreversibili.
• Assicurazione: Affermazioni fraudolente supportate da immagini e video manipolati.
• Ggoverno e servizi pubblici: Frode ai danni dello Stato e uso improprio dell'identità.
• Media e intrattenimento: Attacchi alla reputazione e dichiarazioni inventate.
• Telecomunicazioni: Truffe di assistenza tramite scambio di SIM e furto di account.
• Economia dei lavoretti e della condivisione: Identità false di autista, host e lavoratore.

Assistenza KYC e i controlli di onboarding sono il filo conduttore di ogni settore presente in questo elenco.

Quali sono i segnali più comuni di un deepfake?

Sebbene le falsificazioni più elaborate siano difficili da individuare a occhio nudo, molti deepfake lasciano comunque delle tracce. Conoscere i segnali più comuni aiuta le persone e i team a rimanere vigili.

Segnali visivi in ​​video e immagini

• Sbattimento di ciglia innaturale, oppure occhi che non seguono o non riflettono la luce in modo coerente.
• Sfocatura o distorsione nel punto in cui il viso incontra i capelli, le orecchie, gli occhiali o la scollatura.
• Pelle dall'aspetto troppo liscio, ceroso o non in armonia con l'illuminazione.
• Movimenti delle labbra leggermente scoordinati, oppure denti piatti e poco definiti.
• Bordi tremolanti e ombre che si spostano in modo strano tra un fotogramma e l'altro.

Segnali audio

• Un ritmo piatto o robotico, con pause o enfasi insolite.
• Rumore di sottofondo che compare e scompare in modo innaturale.
• Assenza o errata localizzazione dei suoni respiratori e della bocca.

Segni contestuali

• Urgenza, segretezza o pressione ad agire rapidamente.
• Richieste insolite, soprattutto se riguardano denaro o credenziali.
• Un canale o un comportamento che non corrisponde al modo in cui la persona comunica abitualmente.

Questi controlli manuali aiutano i singoli individui, ma non sono scalabili. Un'azienda che verifica migliaia di persone non può controllare a occhio ogni selfie o video per individuare distorsioni e sfarfallii. Le organizzazioni che hanno bisogno di individuare automaticamente e su larga scala i contenuti multimediali sintetici si affidano a sistemi appositamente progettati. rilevazione del liveness e il rilevamento dei deepfake come parte del loro processo di verifica dell'identità.

Diventerà impossibile distinguere i deepfake dai contenuti reali?

I deepfake sono già abbastanza convincenti da ingannare l'occhio umano e la qualità continuerà a migliorare man mano che la loro generazione diventerà più economica e veloce. Tuttavia, è improbabile che diventino davvero impossibili da distinguere. Parallelamente, si stanno evolvendo standard di provenienza come le credenziali di contenuto, la filigrana digitale e la verifica a più livelli. Il futuro realistico è una continua competizione in cui l'autenticità viene verificata anziché data per scontata, e le organizzazioni che tratteranno ogni identità come qualcosa da confermare saranno nella posizione migliore per far fronte a questa sfida.

In che modo Shufti aiuta le aziende a rimanere competitive?

Shufti offre servizi di verifica dell'identità e prevenzione delle frodi per aziende in oltre 240 paesi e territori. Combinando la verifica biometrica, i controlli di presenza e l'analisi basata sull'intelligenza artificiale di contenuti multimediali sintetici, Shufti aiuta le organizzazioni a confermare che la persona dietro uno schermo sia autentica, presente e chi dichiara di essere, in modo da individuare volti falsificati e voci clonate prima che possano causare danni. Per scoprire come funziona nella pratica, esplora l'approccio di Shufti a rilevamento deepfakeche combina controlli di vitalità, analisi forense dei documenti e segnali comportamentali in un unico flusso di verifica.