Czym jest deepfake? Jak działają filmy i media generowane przez sztuczną inteligencję

Czym jest deepfake? Jak działają filmy i media generowane przez sztuczną inteligencję

Deepfake to syntetyczny materiał medialny, najczęściej wideo, obraz lub klip audio, wygenerowany lub zmodyfikowany przez sztuczną inteligencję w celu nadania prawdziwej osobie pozorów mówienia lub robienia czegoś, czego nigdy nie zrobiła. Termin ten łączy w sobie „głębokie uczenie” i „fake”, a sztuczna inteligencja deepfake rozwinęła się tak szybko, że przekonujące fałszerstwo można teraz zbudować na podstawie zaledwie niewielkiej próbki autentycznego materiału filmowego lub kilku sekund nagranej mowy.

Jak właściwie działa deepfake?

Na poziomie technicznym deepfake to wynik działania modelu uczenia maszynowego trenowanego na rzeczywistych przykładach osoby, zdjęciach, klatkach wideo lub nagraniach audio, aż do momentu, gdy nauczy się wzorców, które pozwalają rozpoznać daną osobę: geometrii jej twarzy, sposobu poruszania się, tonu i rytmu jej głosu. Po wytrenowaniu model może generować nowy materiał na żądanie, umieszczając osobę w scenie, zdaniu lub klipie audio, w którym w rzeczywistości nigdy nie wystąpiła. Wynik nie jest edytowany z rzeczywistego materiału filmowego w sposób, w jaki kadruje się lub retuszuje zdjęcie; jest generowany od podstaw przez model, z tą samą jakością, którą wykorzystuje się w ataki typu deepfake i injectioni dlaczego dobrze wykonany deepfake może wytrzymać krytykę, podczas gdy ręczna edycja nie byłaby w stanie.

Deepfake wideo, obrazy i dźwięki

Deepfake’i występują w trzech ogólnych formach:

• Wideo typu deepfake: w nagraniu wideo podmieniono twarz lub ciało prawdziwej osoby, a wyraz jej twarzy zmodyfikowano tak, aby pasował do scenariusza, którego ta osoba nigdy nie wykonała.
• Obrazy deepfake: nieruchome zdjęcie twarzy, dokumentu lub sceny jest tworzone lub zmieniane tak, aby wyglądało na prawdziwe.
• Deepfake audio: głos jest klonowany z krótkiej próbki i przekształcany w tekst. Jest to technika powszechnie stosowana w oszustwach telefonicznych i socjotechnicznych.

Krótka historia technologii deepfake

Technologia deepfake nie pojawiła się z dnia na dzień. Podstawowa technika, generatywna sieć adwersarna, została wprowadzona w 2014 roku przez badacza uczenia maszynowego Iana Goodfellowa, wówczas doktoranta, jako sposób na rywalizację dwóch sieci neuronowych, aż jedna z nich wygeneruje przekonujące fałszywe obrazy. Sam termin „deepfake” wszedł do użytku publicznego dopiero w grudniu 2017 roku, kiedy anonimowy użytkownik Reddita, publikujący pod tym pseudonimem, zaczął udostępniać filmy zmanipulowane przez sztuczną inteligencję, co dało tej technice zarówno nazwę, jak i wczesny rozgłos. W ciągu kilku lat badania, które kiedyś wymagały dedykowanego laboratorium, zostały przeniesione do aplikacji konsumenckich, przekształcając niszowe ćwiczenie akademickie w technologię dostępną dla każdego posiadacza smartfona.

Jak działa sztuczna inteligencja Deepfake: sieci GAN i modele dyfuzji?

Sztuczna inteligencja Deepfake opiera się głównie na dwóch rodzinach modeli:

• Sieci generatywne (GAN): dwie sieci neuronowe konkurują ze sobą. Generator tworzy fałszywe wyniki, a dyskryminator próbuje je wychwycić. W miarę rywalizacji generator ulepsza się, aż jego wynik może oszukać zarówno dyskryminator, jak i, często, obserwatora.
• Modele dyfuzyjne: technologia stojąca za wieloma najbardziej realistycznymi generatorami obrazów i wideo. Uczą się odwracać proces dodawania szumu, dzięki czemu mogą zacząć od losowego szumu i stopniowo go udoskonalać, aż do uzyskania fotorealistycznego efektu.

Oba podejścia obniżyły barierę wejścia. To, co kiedyś wymagało dużych zbiorów danych i umiejętności technicznych, teraz można zrealizować za pomocą aplikacji konsumenckich, czasami w czasie rzeczywistym podczas wideorozmowy na żywo.

Zmiana ta została przyspieszona przez generatywny deepfake AI narzędzia, które mogą w kilka sekund wytworzyć syntetyczny obraz wideo i dźwięk.

Różne rodzaje deepfake’ów

• Zamiana twarzy: na filmie twarz jednej osoby zostaje nałożona na głowę innej osoby.
• Odtwarzanie twarzy: twarz aktora zostaje zachowana, ale wyraz twarzy i ruchy głowy są sterowane przez aktora lub scenariusz.
• Deepfake'i z synchronizacją ust: istniejące nagranie jest modyfikowane tak, aby usta pasowały do ​​nowego dźwięku.
• Klonowanie głosu: syntetyczna kopia prawdziwego głosu, stworzona na podstawie zaledwie kilku sekund wypowiedzi.
• Synteza całego ciała i tekstu na wideo: całe postacie i sceny generowane od podstaw, coraz częściej na podstawie prostego polecenia tekstowego.

Deepfakes kontra Cheapfakes: Dlaczego to rozróżnienie jest takie ważne?

Nie każde zmanipulowane wideo to deepfake. Naukowcy używają terminu „tani fake”, czasami nazywanego „płytkim fake’iem”, w odniesieniu do mediów modyfikowanych prostymi, tanimi metodami, a nie za pomocą uczenia maszynowego: wyrywania materiału z kontekstu, spowalniania lub przyspieszania klipu, błędnego oznaczania oryginalnego filmu lub używania podstawowego oprogramowania do edycji obrazu w celu zamiany twarzy. Tanie fake’i nie wymagają żadnej sztucznej inteligencji, co sprawia, że ​​są znacznie łatwiejsze w produkcji i w praktyce równie skutecznie wprowadzają odbiorców w błąd. To rozróżnienie ma znaczenie dla weryfikacji: tani fake często można wykryć, sprawdzając oryginalne źródło lub kontekst, podczas gdy prawdziwy deepfake wymaga analizy technicznej opisanej w tym poradniku. Traktowanie każdego podejrzanego filmu jako potencjalnego deepfake’a grozi przeoczeniem prostszej, bardziej powszechnej sztuczki, która się za nim kryje.

Ewolucja technologii deepfake

Wczesne deepfake'i wymagały godzin przetwarzania i nadal wyglądały na wadliwe. Od tego czasu technologia zmieniła się na trzy sposoby: modele wymagają znacznie mniej materiału źródłowego, generowanie jest wystarczająco szybkie, aby działać na żywo, a gotowe narzędzia rozpowszechniły się szeroko. Zagrożenie, które kiedyś ograniczało się do dobrze wyposażonych podmiotów, jest teraz w zasięgu niemal każdego, dlatego oszustwa związane z deepfake'ami przeszły z etapu nowinki do głównego nurtu ryzyka biznesowego.

Zmiana ta jest widoczna we wzroście deepfake jako usługa oferty, które pozwalają każdemu na wypożyczenie możliwości tworzenia deepfake na żądanie.

Jakie są zagrożenia związane z deepfake’ami?

Ryzyko związane z deepfake'ami wykracza daleko poza pojedynczy fałszywy film. Obejmują one szkody finansowe, wizerunkowe i społeczne.

Oszustwa związane z tożsamością i podszywanie się pod kogoś innego

• Do podszywania się pod klientów, omijania zdalnego wdrażania i obchodzenia procedur wykorzystywane są sztuczne twarze i klonowane głosy. kontrole weryfikacji wiekui otwierać konta pod skradzionymi lub wymyślonymi tożsamościami.

Szkody finansowe i wizerunkowe

• Oprócz bezpośredniej kradzieży firmy muszą się liczyć z obciążeniami zwrotnymi, kosztami napraw i karami regulacyjnymi w ramach ewoluujących przepisów głębokie fałszywe prawai utraciła zaufanie klientów, które budowała latami.

Dezinformacja i manipulacja

• Sfabrykowane filmy przedstawiające osoby publiczne mogą rozpowszechniać fałszywe informacje, a nawet autentyczne nagrania mogą zostać uznane za fałszywe, co stopniowo podważa zaufanie publiczne.

W jaki sposób deepfake’i są wykorzystywane w oszustwach internetowych?

Deepfake’i są wykorzystywane w oszustwach, aby podszywać się pod kogoś, komu ofiara już ufa, co obniża jej czujność. Typowe taktyki obejmują:

• Oszustwa dyrektorów generalnych i kadry kierowniczej: Sklonowany głos lub nagranie wideo starszego kierownika autoryzującego pilną płatność.
• Podszywanie się pod członków rodziny i przyjaciół: Sklonowane głosy wołają o pomoc i domagają się pieniędzy.
• Oszustwa romantyczne i inwestycyjne: Syntetyczne persony stworzone w celu zdobywania zaufania z biegiem czasu.
• Fałszywe rekomendacje: Deepfake'owane wizerunki celebrytów i urzędników promujące kryptowaluty i schematy handlowe.
• Ominięcie weryfikacji: Fałszywe selfie i filmy wykorzystywane do omijania zdalnych kontroli tożsamości.

Skala jest realna. W 2024 roku pracownik działu finansowego w firmie inżynieryjnej Arup został oszukany i przelał około 25 milionów dolarów po dołączeniu do wideorozmowy, w której uczestniczyły wyłącznie deepfake'i, odtwarzające wizerunki starszych kolegów.

Które branże są najbardziej narażone na zjawisko deepfake?

Narażone są wszystkie sektory, w których zaufanie do tożsamości lub wizerunku danej osoby jest nieuniknione, ale niektóre padają ofiarą ataków bardziej niż inne:

• Usługi finansowe i bankowość: Otwarcie konta, autoryzacja płatności i przelewy o dużej wartości.
• Fintech i kryptowaluty: Szybkie, zdalne wdrażanie i nieodwracalne transakcje.
• Ubezpieczenie: Fałszywe roszczenia poparte zmanipulowanymi obrazami i nagraniami wideo.
• Grząd i usługi publiczne: Oszustwa związane ze świadczeniami i nadużycia tożsamości.
• Media i rozrywka: Ataki na reputację i zmyślone oświadczenia.
• Telekomunikacja: Oszustwa związane z zamianą kart SIM i przejęciem konta.
• Gospodarka gig i współdzielenia: Fałszywe tożsamości kierowców, hostów i pracowników.

Zdalny KYC a kontrole wstępne są wspólnym mianownikiem wszystkich sektorów wymienionych na tej liście.

Jakie są najczęstsze oznaki deepfake’a?

Choć najlepsze podróbki trudno rozpoznać gołym okiem, wiele deepfake'ów wciąż pozostawia ślady. Znajomość typowych oznak pomaga ludziom i zespołom zachować czujność.

Znaki wizualne w formie wideo i obrazów

• Nienaturalne mruganie lub oczy, które nie śledzą ani nie odbijają światła w sposób równomierny.
• Rozmycie lub odkształcenie miejsc, w których twarz styka się z włosami, uszami, okularami lub linią szyi.
• Skóra, która wygląda zbyt gładko, woskowo lub nie pasuje do oświetlenia.
• Nieco niesynchronizowane ruchy warg lub płaskie, niewidoczne zęby.
• Migoczące krawędzie i cienie, które dziwnie zmieniają się między klatkami.

Znaki dźwiękowe

• Płaska lub robotyczna kadencja z nietypowymi pauzami lub akcentami.
• Szum tła, który pojawia się i znika w nienaturalny sposób.
• Brak lub nieprawidłowe umiejscowienie dźwięków oddechowych i ustnych.

Znaki kontekstowe

• Pilność, tajemnica lub presja szybkiego działania.
• Nietypowe prośby, zwłaszcza dotyczące pieniędzy lub danych uwierzytelniających.
• Kanał lub zachowanie, które nie jest zgodne ze sposobem, w jaki dana osoba normalnie się komunikuje.

Te ręczne kontrole pomagają użytkownikom, ale nie są skalowalne. Firma weryfikująca tysiące osób nie jest w stanie kontrolować każdego selfie czy filmu pod kątem zniekształceń i migotania. Organizacje, które muszą automatycznie i na dużą skalę przechwytywać syntetyczne media, polegają na specjalnie zaprojektowanych wykrywanie żywotności i wykrywanie deepfake'ów jako część procesu weryfikacji tożsamości.

Czy deepfake’i stanie się niemożliwe do odróżnienia od prawdziwych treści?

Deepfake'i są już wystarczająco przekonujące, by oszukać ludzkie oko, a ich jakość będzie się stale poprawiać wraz ze spadkiem cen i szybkością generacji. Jest jednak mało prawdopodobne, aby stały się one całkowicie niemożliwe do odróżnienia. Standardy pochodzenia, takie jak uwierzytelnianie treści, cyfrowe znaki wodne i weryfikacja wielowarstwowa, rozwijają się równolegle. Realistyczna przyszłość to ciągły konkurs, w którym autentyczność jest weryfikowana, a nie zakładana, a organizacje, które traktują każdą tożsamość jako coś do potwierdzenia, będą w stanie sobie z tym najlepiej poradzić.

Jak Shufti pomaga firmom utrzymać przewagę?

Shufti zapewnia weryfikację tożsamości i zapobieganie oszustwom firmom w ponad 240 krajach i terytoriach. Łącząc weryfikację biometryczną, weryfikację żywotności i analizę syntetycznych mediów opartą na sztucznej inteligencji, Shufti pomaga organizacjom potwierdzić autentyczność, obecność i tożsamość osoby za ekranem, dzięki czemu sfabrykowane twarze i sklonowane głosy są wykrywane, zanim wyrządzą krzywdę. Aby przekonać się, jak to działa w praktyce, zapoznaj się z podejściem Shufti do… wykrywanie deepfake'ów, który łączy w jednym procesie weryfikacji sprawdzanie żywotności, analizę dokumentów i sygnały behawioralne.