Ponad 400 aplikacji AI ukrywało funkcje seksualnych deepfake

Jak działała sieć aplikacji z ukrytym deepfake

Mechanizm opierał się na podmianie treści po recenzji, którą Apple nazywa bait-and-switch. Po pobraniu aplikacja wysyłała do serwera podstawowe dane, takie jak kraj, język i identyfikator urządzenia. Serwer odpowiadał, czy wyświetlić zwykłą wersję, np. generator zabawnych portretów zwierząt, czy ukryty interfejs z szablonami seksualnych scen. Według Paula Bouchauda z AI Forensics, który przeanalizował kod, jednym z wyzwalaczy było pobranie aplikacji po kliknięciu reklamy na Facebooku lub Instagramie.

Ukryty interfejs pozwalał przesłać zdjęcie dowolnej osoby i wstawić ją do wygenerowanych obrazów lub filmów pornograficznych. Wśród szablonów były sceny przemocy seksualnej. Użytkownicy kupowali wirtualną walutę na generowanie, a płatności przechodziły m.in. przez Apple Pay i Google Pay. W jednej z aplikacji ok. 4 USD kosztowało 130 monet.

Bouchaud opisał to jako zorganizowaną operację komercyjną: jeden operator stojący za setkami jednorazowych aplikacji i domen, ukrytych tak, by przeszły recenzję App Store. Badacz Infoblox Maël Le Touz znalazł w kodzie stron listę konfiguracyjną z niemal 500 domenami, które korzystały z tego samego kodu i odwoływały się do siebie nawzajem.

Skala i oś czasu

Według analizy AI Forensics aplikacje zaczęły się pojawiać pod koniec 2025 roku, a szczyt przypadł na wiosnę 2026 roku. Sieć publikowała czasem po kilkadziesiąt aplikacji tygodniowo. Część z nich opisali już we wrześniu duńscy dziennikarze, a o reklamach z deepfake na platformach Meta WIRED i Tech Transparency Project informowały od kilku miesięcy.

• Koniec 2025 roku - rejestracja pierwszych domen sieci. Meta w 2025 roku blokuje reklamy spółki KeLing Technology Limited po zignorowaniu wezwania do zaprzestania działań.
• Grudzień 2025 roku - powstaje DiffAI, później jedna z najpopularniejszych aplikacji sieci, z ponad 100 tys. pobrań w Google Play.
• Wiosna 2026 roku - szczyt aktywności, ok. 30 nowych aplikacji i stron tygodniowo.
• Wrzesień 2026 roku - 27 aplikacji w Google Play, łącznie ponad 350 tys. pobrań. Sieć zapowiada użytkownikom nowy model o nazwie Veyra.
• 16 października 2026 roku - Apple zaostrza wytyczne App Store wobec aplikacji nudify i ukrytych funkcji.
• 2 listopada 2026 roku - publikacja WIRED. Apple usuwa 19 aplikacji, Meta blokuje tysiące kont i stron.

Co odpowiedzieli Apple, Google i Meta

Apple usunął 19 aplikacji, w tym generator portretów zwierząt Viefur, po tym jak WIRED przekazał listę domen. Rzecznik firmy Adam Dema stwierdził, że aplikacje w chwili recenzji były zgodne z zasadami, a deweloperzy podmienili później stronę, z której pobierana była treść. Apple podaje, że w ciągu roku zawiesił dziesiątki tysięcy aplikacji stosujących taką taktykę.

Google nie odpowiedział WIRED na prośbę o komentarz. Według redakcji większość aplikacji zniknęła z Google Play, zanim firma otrzymała pytania, w tym DiffAI.

Meta podała, że z domenami sieci było powiązanych ponad 3 tys. reklam, z których dwie trzecie usunęła wcześniej. Po otrzymaniu listy firma zgłosiła działania wobec 11,6 tys. kont reklamowych, ponad 4,7 tys. stron firmowych, 5,2 tys. użytkowników i 15 tys. stron oraz zablokowała reklamy 209 aplikacji. Z analizy AI Forensics wynika jednak, że od początku roku na platformach Meta ukazały się dziesiątki tysięcy reklam z deepfake powiązanych z siecią, publikowanych pod fałszywymi nazwiskami płatników.

Dlaczego recenzja w sklepach z aplikacjami nie wystarczyła

Recenzja sprawdza aplikację w chwili zgłoszenia, a ta sieć zmieniała treść po stronie serwera, już po zatwierdzeniu. Recenzent widział więc wersję niewinną, podobnie jak większość użytkowników, którzy nie trafili do aplikacji z reklamy. Strony powiązane z aplikacjami pokazywały po otwarciu tylko czarny ekran.

W naszej ocenie przypadek pokazuje ograniczenia nowych zasad App Store z października. Zakaz ukrytych funkcji daje Apple podstawę do usuwania kont deweloperów, ale nie rozwiązuje problemu aplikacji jednorazowych, które powstają szybciej, niż są wykrywane. Skuteczność zależy od współpracy sklepów z platformami reklamowymi, bo to reklamy kierowały użytkowników do ukrytej wersji.

Co to oznacza w Polsce i jak reagować

Aplikacje były dostępne w globalnych sklepach, a reklamy na Facebooku i Instagramie docierały do odbiorców na całym świecie. WIRED nie podał danych o pobraniach w poszczególnych krajach, więc nie wiadomo, ilu użytkowników z Polski miało z nimi kontakt. Wśród ofiar reklam z deepfake WIRED wymieniał wcześniej m.in. członkinię europejskiej rodziny królewskiej.

W Unii Europejskiej Meta, Apple i Google jako bardzo duże platformy internetowe podlegają aktowi o usługach cyfrowych (DSA). Muszą oceniać ryzyka systemowe, w tym związane z ochroną małoletnich, i reagować na zgłoszenia nielegalnych treści. Rozpowszechnianie wizerunku nagiej osoby bez jej zgody penalizuje w Polsce art. 191a Kodeksu karnego, choć prawnicy różnią się w ocenie, czy obejmuje on obrazy w całości wygenerowane przez AI. Art. 202 wprost zakazuje natomiast treści pornograficznych z udziałem małoletnich, także wytworzonych albo przetworzonych.

• Zgłoś reklamę lub aplikację bezpośrednio w serwisie: w menu reklamy na Facebooku i Instagramie oraz przez opcję zgłoszenia problemu w App Store lub Google Play.
• Materiały seksualne z udziałem dzieci zgłaszaj zespołowi Dyżurnet.pl działającemu w NASK. Można to zrobić anonimowo.
• Jeśli ktoś opublikował spreparowany wizerunek twój lub bliskiej osoby, zabezpiecz zrzuty ekranu z adresami i zgłoś sprawę na policję.
• Rodzice mogą włączyć w telefonach dzieci zatwierdzanie pobrań i ograniczenia wiekowe. Oznaczenie wiekowe w sklepie nie gwarantuje jednak, że aplikacja jest bezpieczna, co pokazuje ten przypadek.

Czego jeszcze nie wiadomo

Nie wiadomo, ile pieniędzy sieć zarobiła ani ile osób zapłaciło za generowanie przez systemy płatności Apple i Google. WIRED nie ustalił też, jakie kryteria poza kliknięciem reklamy decydowały o pokazaniu ukrytej wersji. Spółka KeLing Technology Limited nie odpowiedziała na pytania, a po kontakcie redakcji usunięto publiczne powiązania firmy z narzędziami deepfake.

Ustalenia pochodzą z jednego śledztwa dziennikarskiego i analiz dwóch zespołów badawczych. Raporty AI Forensics i Infoblox nie były w chwili publikacji dostępne jako osobne dokumenty. Według WIRED, gdy redakcja kończyła tekst, w sklepach i na platformach reklamowych nadal pojawiały się podobne aplikacje i reklamy.