OpenAI ogłosiło 16 listopada 2026 roku pakiet narzędzi przeciw materiałom przedstawiającym seksualne wykorzystywanie dzieci (CSAM). Najważniejszy jest klasyfikator obrazów, który rozpoznaje także nowe i wygenerowane przez AI materiały, udostępniany bezpłatnie zatwierdzonym organizacjom przez API. W ChatGPT próby szukania takich treści skończą się ostrzeżeniem, usunięciem rozmowy i 24-godzinną blokadą konta. OpenAI publikuje też wytyczne dla twórców aplikacji i narzędzia dla wyspecjalizowanych jednostek policji.
Klasyfikator CSAM dla platform i moderatorów
Dotychczas platformy wykrywały CSAM głównie przez porównywanie skrótów (hashy) plików ze znanymi materiałami. Ta metoda nie radzi sobie z treściami, których nikt wcześniej nie zgłosił, w tym z obrazami wygenerowanymi przez AI. Nowy klasyfikator OpenAI analizuje cechy wizualne obrazu i przypisuje mu ocenę, dzięki której moderatorzy mogą ustalić kolejność przeglądu.
OpenAI podaje, że narzędzie opracowało i oceniło razem z NCMEC, amerykańskim centrum przyjmującym zgłoszenia o wykorzystywaniu dzieci. Dostęp ma być bezpłatny, ale wymaga zgłoszenia, weryfikacji przez usługę Persona, wdrożenia w programie i akceptacji warunków. Według TechCrunch dostęp jest też dzielony z organizacjami Tech Coalition i ROOST.
Wyniki testów podawane przez OpenAI i partnerów
Liczby pochodzą z wczesnych ocen przeprowadzonych przez OpenAI i firmy, które testowały narzędzie. Nie znamy wielkości prób, definicji miar ani wyników niezależnych badań, dlatego traktujemy je jako deklaracje.
- O 48 proc. mniej obrazów oznaczonych do przeglądu niż przy dotychczasowych zabezpieczeniach OpenAI, przy podobnej liczbie wykrytych materiałów.
- Obrazy oznaczone przez klasyfikator były około dwa razy częściej faktycznie szkodliwe.
- Według firmy Fal moderatorzy potwierdzili 72 proc. oznaczeń o wysokiej pewności jako wcześniej nieznane materiały CSAM.
- Według SafetyKit klasyfikator wykrył 90 proc. przypadków rysunków i animacji seksualizujących dzieci.
Ostrzeżenia i 24-godzinna blokada w ChatGPT
ChatGPT już wcześniej blokował prośby o CSAM, a OpenAI zgłaszało takie próby do NCMEC i usuwało konta. Teraz dochodzi etap odstraszania. Użytkownik, który próbuje znaleźć lub wywołać takie treści, zobaczy ostrzeżenie wyjaśniające szkodę, także w przypadku materiałów generowanych przez AI, oraz odesłanie do specjalistycznej pomocy dla osób, które chcą zmienić swoje zachowanie.
Rozmowa zostanie usunięta, a dostęp do ChatGPT wstrzymany na 24 godziny. Kolejne naruszenia mogą oznaczać dłuższe ograniczenia, trwałe zamknięcie konta i zgłoszenie do służb. Komunikaty powstały z udziałem organizacji Protect Children i Lucy Faithfull Foundation oraz badacza Joela Scanlana z Uniwersytetu Tasmańskiego. OpenAI nie podało, czy funkcja działa od razu we wszystkich krajach i językach.
Wytyczne dla twórców aplikacji i narzędzia dla policji
W dokumentacji API pojawiły się wytyczne dla firm budujących produkty na modelach OpenAI. Zaleca się w nich m.in. jasny zakaz takich treści w regulaminie, przycisk zgłaszania, przypisanie każdego przesłanego pliku do użytkownika przez stały identyfikator, łączenie porównywania hashy z klasyfikatorami oraz udział człowieka w ocenie. Dokument podkreśla, że nie jest poradą prawną, a obowiązki zgłaszania zależą od lokalnych przepisów.
Dla wyspecjalizowanych jednostek policji OpenAI przygotowało narzędzia AI i szkolenia. Pierwsze narzędzie pomaga uprawnionym zespołom przeglądać długie zapisy rozmów i legalnie uzyskane dokumenty, wskazywać powiązania i porządkować osie czasu z odwołaniem do materiału źródłowego. Dostęp zależy od zgody administratorów programu.
Co to oznacza w Polsce
Polskie firmy tworzące aplikacje z generowaniem lub przesyłaniem obrazów mogą ubiegać się o dostęp do klasyfikatora, ale OpenAI nie opisało kryteriów zatwierdzania organizacji spoza USA. Wytyczne dotyczące NCMEC odnoszą się do prawa amerykańskiego. W Polsce nielegalne treści z udziałem dzieci zgłasza się do zespołu Dyżurnet.pl działającego w NASK, a platformy działające w UE mają dodatkowe obowiązki z aktu o usługach cyfrowych (DSA).
Ogłoszenie zbiega się z raportem Childlight, według którego liczba zgłoszeń CSAM związanych z AI wzrosła w dwa lata z ok. 4,7 tys. do ponad 400 tys. W naszej ocenie odstraszające komunikaty i lepsze wykrywanie nowych materiałów to krok w dobrą stronę, ale ich skuteczność trzeba będzie ocenić na niezależnych danych, a nie na liczbach dostawcy.
Źródła i data sprawdzenia
- OpenAI releases a new image classifier and ChatGPT warnings to combat CSAMTechCrunch, publikacja: 2026-11-16, sprawdzono: 2026-11-16
- OpenAI launches free CSAM detection tool to fight AI-generated abuseFox News, publikacja: 2026-11-16, sprawdzono: 2026-11-16
- CSAM guidanceOpenAI Developers, publikacja: 2026-11-16, sprawdzono: 2026-11-16
Artykuł ma charakter informacyjny. Przy decyzjach prawnych, finansowych lub organizacyjnych warto zweryfikować wnioski w odniesieniu do konkretnej sytuacji.



