Wykrywanie deepfake’ów za pomocą sztucznej inteligencji generatywnej: dlaczego warstwy prawne i techniczne muszą ze sobą współpracować

Na początku 2024 roku pracownik firmy inżynieryjnej Arup zatwierdził Transfer za 25 miliona dolarów Po wideorozmowie z osobami, które uważała za starszych kolegów. Żaden z nich nie był prawdziwy. Każda twarz, każdy głos w tej rozmowie był generatywnym deepfake'iem sztucznej inteligencji, a przelew bankowy został zrealizowany, zanim ktokolwiek zdał sobie sprawę, że spotkanie w ogóle się nie odbyło..

Jeśli zajmujesz się oszustwami, KYC lub onboardingiem w regulowanej firmie, sprawa Arupa nie jest wyjątkiem. To zapowiedź tego, jak generatywna sztuczna inteligencja identyfikuje dowody, gdy narzędzia detekcji pozostają w tyle za modelami generującymi ataki.

Generatywny deepfake oparty na sztucznej inteligencji to syntetyczny dźwięk, obraz lub wideo generowany przez nowoczesne modele dyfuzyjne lub multimodalne, zaprojektowany tak, aby przypominał konkretną, prawdziwą osobę. W przeciwieństwie do podróbek z ery GAN z 2019 roku, te dane wyjściowe nie niosą ze sobą praktycznie żadnych widocznych oznak, na których trenowano wczesne detektory. W połączeniu z tanim wnioskowaniem w chmurze i narzędziami do podmiany twarzy klasy konsumenckiej, problem detekcji nie jest już ćwiczeniem laboratoryjnym.

Aspekt regulacyjny również ulega zmianom. Artykuł 50 ustawy UE o sztucznej inteligencji, która wchodzi w życie 2 sierpnia 2026 r., wymaga od użytkowników systemów sztucznej inteligencji generujących treści deepfake ujawnienia, że ​​treść ta została wygenerowana sztucznie (Ustawa UE o sztucznej inteligencji Artykuł 50, Instytut Przyszłości ŻyciaSamo techniczne wykrywanie nie wystarczy. Zespoły potrzebują warstwowego frameworka, który łączy sygnały biometryczne w czasie wykonywania z pochodzeniem treści u źródła oraz mechanizmem zabezpieczającym przed ujawnieniem prawnym. W tym artykule opisano, jak działa ten framework i co oznacza dla sposobu oceny. weryfikacja tożsamości dzisiaj.

Dlaczego sztuczna inteligencja generatywna złamała stary podręcznik wykrywania

Przez większość ostatniej dekady detektory deepfake’ów poszukiwały drobnych artefaktów pozostawionych przez modele generatywne. Nieregularne mruganie, niejednolita tekstura skóry, niedopasowane oświetlenie na twarzy, zdeformowane płatki uszu w miejscach, gdzie dane treningowe były cienkie. Kiedy ktoś z twojego zespołu ds. oszustw stwierdził, że selfie „wyglądało dziwnie”, zazwyczaj wychwytywał jeden z tych sygnałów, nie musząc go nazywać.

Współczesna generatywna sztuczna inteligencja usunęła większość z nich. Modele dyfuzyjne generują teksturę skóry, która po analizie na poziomie pikseli jest autentyczna. Systemy klonowania głosu rejestrują rytm i oddech z kilku sekund dźwięku. Procesy zamiany twarzy działają teraz w czasie rzeczywistym podczas strumienia wideo, a nie jako wstępnie renderowany klip. UNESCO artykuł na temat mediów syntetycznych nazywa tę zmianę „kryzysem wiedzy”, ponieważ artefakty, którym kiedyś ufaliśmy, zniknęły.

Trzy konkretne zmiany mają znaczenie KYC i zespołów ds. oszustw.

Po pierwsze, dostępność. Narzędzia do podmiany twarzy, które kiedyś wymagały procesora graficznego i tygodnia precyzyjnego dostrajania, teraz działają w przeglądarce. Oszust nie potrzebuje wiedzy z zakresu uczenia maszynowego, aby stworzyć przekonujący film z czyjąś twarzą.

Po drugie, powierzchnia ataku uległa zmianie. Oprogramowanie wirtualnej kamery pozwala atakującemu wstrzyknąć wstępnie nagrany lub generowany na żywo strumień do procesu weryfikacji, całkowicie omijając rzeczywistą kamerę telefonu. Jest to atak typu injection, który nie uruchamia wyłącznie RGB. kontrole żywotności zakładające, że piksele pochodzą z prawdziwego obiektywu.

Po trzecie, skrócił się okres trwałości detekcji. Klasyfikator wytrenowany na zeszłorocznych deepfake'ach jest zauważalnie słabszy w porównaniu z tegorocznymi modelami. 2024 NIST GenAI badanie pilotażowe wykazało, że dokładność wykrywania wytrzymała ataki oparte na podsumowaniu, ale wskazało na dryft modelu jako stałe ryzyko dla każdego wdrożonego detektora.

Nowe ramy prawne opierają się na prawach, a nie tylko na kwestiach technicznych

Organy regulacyjne przestały traktować deepfake'i wyłącznie jako typologię oszustwa. Nowe ujęcie jest bliższe problemowi praw człowieka, gdzie syntetyczne media zagrażają tożsamości, reputacji i świadomej zgodzie. Niedawno recenzowany artykuł w „International Journal of Law, Crime and Justice” argumentuje za właśnie taką zmianą, proponując ramy prawne, które traktują… wykrywanie deepfake'ów jako obowiązek ochrony praw, a nie cechę platformy.

Artykuł 50 unijnej ustawy o sztucznej inteligencji (AI) to pierwszy sztywny termin. Od 2 sierpnia 2026 r. firmy wdrażające systemy AI, które generują lub manipulują obrazami, dźwiękami lub wideo stanowiącymi deepfake, muszą ujawnić, że treści te zostały wygenerowane sztucznie. Ten sam przepis wymaga maszynowo czytelnego oznaczenia syntetycznych wyników i informuje użytkowników o interakcji z systemem AI. Wyjątki są wąskie i obejmują legalne śledztwa karne oraz ewidentnie dzieła artystyczne lub satyryczne.

Komisja Europejska pracuje nad szczegółami wdrożenia w ramach swojego Kodeksu Postępowania w sprawie oznaczania i etykietowania treści generowanych przez sztuczną inteligencję, którego ostateczna wersja jest spodziewana w czerwcu 2026 roku, przed wejściem w życie Artykułu 50. Dla zespołu ds. oszustw lub zgodności z przepisami, praktyczne implikacje tego, że „nie da się stwierdzić, że to podróbka” przestają być użyteczną obroną w regulowanych procesach onboardingowych od tej daty.

Drugim elementem układanki jest pochodzenie treści. C2PA Standard opracowany przez Koalicję na rzecz Pochodzenia Treści i Autentyczności (Coalition for Content Provenance and Authenticity) definiuje, w jaki sposób pliki multimedialne mogą zawierać metadane zabezpieczające przed manipulacją, dotyczące tego, kto je stworzył, jakim narzędziem i jak zostały edytowane. C2PA nie jest detektorem deepfake. Rejestruje historię. W połączeniu z funkcją wykrywania, daje zespołom dwa niezależne sygnały do ​​weryfikacji, gdy zgłoszenie przechodzi przez proces weryfikacji.

Trójwarstwowy model wykrywania dla zespołów KYC i ds. oszustw

Trwałą odpowiedzią na generatywne deepfake'i AI nie jest pojedynczy, inteligentniejszy klasyfikator. To wielowarstwowa obrona, ponieważ żadna warstwa nie przetrwa sama.

Warstwa pierwsza to detekcja biometryczna w czasie rzeczywistym. Obejmuje ona sygnały, które kamera może generować w czasie rzeczywistym podczas weryfikacji. Analiza w dziedzinie częstotliwości wychwytuje artefakty, które są niewidoczne w widoku RGB, ale pojawiają się po transformacji obrazu. Kontrola głębi i paralaksy 3D potwierdza rzeczywistą obecność trójwymiarowej twarzy. Wskazówki behawioralne, w tym mikroruchy i reakcja na pasywne podpowiedzi, odróżniają żywą osobę od odtwarzanego lub wstrzykiwanego strumienia. Dobrze zaprojektowana warstwa żywotności wykrywa również ataki wstrzykiwania z kamer wirtualnych, nie tylko z wydrukowanych zdjęć i powtórek ekranowych.

Warstwa druga to pochodzenie treści. Gdy zgłoszenie zawiera dane uwierzytelniające C2PA, system weryfikacji może sprawdzić, kto podpisał treść, jakiego aparatu lub narzędzia do edycji użyto oraz czy metadane zostały zmienione od momentu utworzenia. Leica, Samsung i Google zaczęły oferować natywne podpisywanie C2PA na sprzęcie konsumenckim, więc nośniki z danymi uwierzytelniającymi nie są już teoretyczne. Zgłoszenie bez danych uwierzytelniających nie jest automatycznie uznawane za oszustwo, ale ich brak jest sygnałem wartym rozważenia w ocenie ryzyka.

Warstwa trzecia to przegląd z udziałem człowieka i zabezpieczenie prawne. Hybrydowa sztuczna inteligencja i przegląd ludzki obsługują skrajne przypadki, w których automatyczne zaufanie jest niskie, i kierują niejednoznaczne sesje do przeszkolonych recenzentów, zamiast wymuszać binarne zaakceptowanie lub odrzucenie. Obowiązki informacyjne wynikające z artykułu 50, po wejściu w życie, przekształcają warstwę prawną w egzekwowalną część architektury. Treści, które powinny zostać oznaczone, a nie zostały, stanowią udokumentowane naruszenie, co wzmacnia pozycję firm, które dołożyły należytej staranności.

Praktyczne dalsze kroki dla zespołów ds. zgodności i zwalczania oszustw

Warto przeprowadzić kilka kontroli na swoim obecnym komputerze weryfikacja tożsamości stosu przed wejściem w życie artykułu 50.

Zapytaj swojego dostawcę, czy jego model żywotności wykrywa ataki z wykorzystaniem wirtualnej kamery, a nie tylko ataki z wykorzystaniem wydruków i powtórek ekranowych. Zapytaj, czy wykrywanie jest weryfikowane przez rząd lub niezależną instytucję, a nie przez własne laboratorium dostawcy, ponieważ deklarowane przez niego wskaźniki dokładności mają słabą reputację w porównaniu z obecnymi wektorami ataków. Upewnij się, że istnieje ścieżka weryfikacji dla sesji, w których automatyzacja jest niska, ponieważ w pełni zautomatyzowane podejmowanie decyzji w przypadku generatywnych ataków AI to sposób na legalne oszustwa.

Dostosuj już teraz zapisy dotyczące ujawniania informacji o wdrażaniu do obowiązku wynikającego z artykułu 50, zamiast dostosowywać je dopiero w lipcu 2026 r. Tekst Kodeksu Postępowania, który ukaże się w czerwcu, będzie zawierał szczegółowe informacje, dlatego w cyklu przeglądu kopii należy zostawić miejsce na jego uwzględnienie.

Deepfake’i generowane przez sztuczną inteligencję są już obecne w procesach weryfikacji na żywo, a strata, taka jak w przypadku Arupa, wynika z różnicy między „naszymi przejściami weryfikacji na żywo” a „zweryfikowaliśmy prawdziwą osobę”. Wykrywanie deepfake’ów przez Shufti łączy wielowarstwową ochronę przed podszywaniem się obejmującą ponad 56 wektorów ataków z hybrydową sztuczną inteligencją i przeglądem ludzkim, aktywną i pasywną dostępnością oraz wdrożeniem lokalnym, w chmurze lub hybrydowym. Poproś o prezentację aby przepuścić przez proces generatywną próbkę deepfake opartą na sztucznej inteligencji i zobaczyć werdykt.