Detektor deepfake na świetle. UCLA sprawdza 15 filmów naraz

Jak światło pomaga wykrywać deepfake

Typowy detektor deepfake to sieć neuronowa uruchamiana na procesorze graficznym, która analizuje filmy po kolei. Według zespołu UCLA pojedyncza analiza może wymagać setek miliardów operacji zmiennoprzecinkowych, więc koszt i zużycie energii rosną wraz z liczbą nagrań. Autorzy, Parnian Ghapandar Kashani, Shiqi Chen i Aydogan Ozcan, zastąpili część tych obliczeń fizyką światła.

Pierwszy etap pozostaje cyfrowy. Z każdego filmu system losuje 12 klatek, wykrywa twarz i za pomocą małych sieci neuronowych wyciąga cechy obrazu, jego widma i zmian w czasie. Cechy zamieniane są na wzór fazowy wyświetlany na przestrzennym modulatorze światła, czyli programowalnym ekranie zmieniającym fazę przechodzącej wiązki.

Dalej działa już sama optyka. Światło przechodzi przez pasywny układ i dzięki dyfrakcji wykonuje resztę obliczeń klasyfikacji. Dla każdego filmu para fotodetektorów mierzy natężenie w dwóch obszarach. Silniejszy sygnał w jednym z nich oznacza nagranie fałszywe, w drugim prawdziwe.

Wyniki eksperymentu w liczbach

Badacze zakodowali na jednym modulatorze 15 osobnych filmów i ocenili je w pojedynczym przebiegu światła. Testy prowadzono w świetle widzialnym na kilku zbiorach danych: klasycznych podmianach twarzy, nagraniach deepfake z internetu i filmach w całości wygenerowanych przez AI. Najważniejsze wyniki:

• Celeb-DF, 15 filmów naraz - 97,79 proc. trafności, 99,86 proc. czułości, 95,72 proc. swoistości,
• Celeb-DF, 18 filmów naraz - 96,13 proc. trafności, spadek wynika z zakłóceń między gęsto upakowanymi kanałami,
• filmy z Veo 3 po dostrojeniu na 50 nagraniach - 94,8 proc. trafności, 97,61 proc. czułości i 92 proc. swoistości,
• dwie dodatkowe pasywne warstwy dyfrakcyjne przy trudniejszych manipulacjach - około 6,8 proc. wyższa trafność.

Co oznacza wysoka czułość

Czułość mówi, jaki odsetek fałszywych filmów system rozpoznał. Wynik 99,86 proc. oznacza, że przez filtr prześlizgnęło się około 0,14 proc. deepfake'ów. Swoistość, czyli poprawne rozpoznanie autentycznych nagrań, jest niższa i wynosi 95,72 proc. W praktyce około 4 na 100 prawdziwych filmów trafiłoby do dodatkowej kontroli.

Taki profil błędów odpowiada roli, jaką autorzy przewidują dla układu. Ma działać jako pierwsze, bardzo czułe sito, które szybko przegląda duże ilości materiału. Nagrania oznaczone jako podejrzane trafiałyby następnie do dokładniejszych, ale droższych detektorów cyfrowych.

Badacze podają też, że układ jest odporny na szum, rozmycie, kompresję JPEG i ataki typu black-box, w których napastnik nie zna budowy detektora. Część parametrów modelu jest zapisana w fizycznej strukturze optyki, co według autorów utrudnia jej odtworzenie i przygotowanie filmu, który ją oszuka.

Ograniczenia badania

Praca przeszła recenzję naukową, ale opisuje demonstrację laboratoryjną. Zespół nie podał ceny, terminu ani planów komercjalizacji. Etap cyfrowy nadal wymaga komputera i według samych autorów przy większej skali to on, a nie optyka, stałby się wąskim gardłem.

Celeb-DF to starszy zbiór oparty głównie na podmianie twarzy. Test na Veo 3 jest trudniejszy, ale wymagał dostrojenia, a nowe generatory wideo pojawiają się co kilka miesięcy. System analizuje wyłącznie obraz twarzy, więc nie wykryje fałszywego głosu ani nagrania bez widocznej twarzy.

Znaczenie dla Polski i co robić teraz

Deepfake'i wykorzystywane są w Polsce między innymi w fałszywych reklamach inwestycyjnych z wizerunkiem znanych osób i w oszustwach na podrobiony głos. Badanie UCLA dotyczy przede wszystkim platform, które muszą przeglądać ogromne ilości wideo, takich jak serwisy społecznościowe i redakcje weryfikujące materiały. AI Act w art. 50 wymaga oznaczania treści deepfake, a tanie metody masowego filtrowania mogą ułatwić egzekwowanie tego obowiązku.

Zwykły użytkownik nie skorzysta z tej technologii w najbliższym czasie. W naszej ocenie przy podejrzanym nagraniu nadal najskuteczniejsze jest sprawdzenie, kto je opublikował, czy potwierdzają je inne wiarygodne źródła i czy film nakłania do pilnego przelewu lub podania danych.