Aktualności, narzędzia i prawo AIPolska · codziennie
Bezpieczeństwo

OpenAI udostępnia klasyfikator CSAM i blokuje konta w ChatGPT na dobę

OpenAI ogłosiło klasyfikator wykrywający materiały CSAM, także generowane przez AI, ostrzeżenia z dobową blokadą w ChatGPT oraz narzędzia dla policji i twórców aplikacji.

Dwoje moderatorów treści, mężczyzna w okularach i młoda kobieta, pracuje przy monitorach z rozmytymi miniaturami i kolorowymi paskami priorytetów w biurze z widokiem na kamienice
Ilustracja redakcyjna dailyAI

OpenAI ogłosiło 16 listopada 2026 roku pakiet narzędzi przeciw materiałom przedstawiającym seksualne wykorzystywanie dzieci (CSAM). Najważniejszy jest klasyfikator obrazów, który rozpoznaje także nowe i wygenerowane przez AI materiały, udostępniany bezpłatnie zatwierdzonym organizacjom przez API. W ChatGPT próby szukania takich treści skończą się ostrzeżeniem, usunięciem rozmowy i 24-godzinną blokadą konta. OpenAI publikuje też wytyczne dla twórców aplikacji i narzędzia dla wyspecjalizowanych jednostek policji.

Klasyfikator CSAM dla platform i moderatorów

Dotychczas platformy wykrywały CSAM głównie przez porównywanie skrótów (hashy) plików ze znanymi materiałami. Ta metoda nie radzi sobie z treściami, których nikt wcześniej nie zgłosił, w tym z obrazami wygenerowanymi przez AI. Nowy klasyfikator OpenAI analizuje cechy wizualne obrazu i przypisuje mu ocenę, dzięki której moderatorzy mogą ustalić kolejność przeglądu.

OpenAI podaje, że narzędzie opracowało i oceniło razem z NCMEC, amerykańskim centrum przyjmującym zgłoszenia o wykorzystywaniu dzieci. Dostęp ma być bezpłatny, ale wymaga zgłoszenia, weryfikacji przez usługę Persona, wdrożenia w programie i akceptacji warunków. Według TechCrunch dostęp jest też dzielony z organizacjami Tech Coalition i ROOST.

Wyniki testów podawane przez OpenAI i partnerów

Liczby pochodzą z wczesnych ocen przeprowadzonych przez OpenAI i firmy, które testowały narzędzie. Nie znamy wielkości prób, definicji miar ani wyników niezależnych badań, dlatego traktujemy je jako deklaracje.

  • O 48 proc. mniej obrazów oznaczonych do przeglądu niż przy dotychczasowych zabezpieczeniach OpenAI, przy podobnej liczbie wykrytych materiałów.
  • Obrazy oznaczone przez klasyfikator były około dwa razy częściej faktycznie szkodliwe.
  • Według firmy Fal moderatorzy potwierdzili 72 proc. oznaczeń o wysokiej pewności jako wcześniej nieznane materiały CSAM.
  • Według SafetyKit klasyfikator wykrył 90 proc. przypadków rysunków i animacji seksualizujących dzieci.

Ostrzeżenia i 24-godzinna blokada w ChatGPT

ChatGPT już wcześniej blokował prośby o CSAM, a OpenAI zgłaszało takie próby do NCMEC i usuwało konta. Teraz dochodzi etap odstraszania. Użytkownik, który próbuje znaleźć lub wywołać takie treści, zobaczy ostrzeżenie wyjaśniające szkodę, także w przypadku materiałów generowanych przez AI, oraz odesłanie do specjalistycznej pomocy dla osób, które chcą zmienić swoje zachowanie.

Rozmowa zostanie usunięta, a dostęp do ChatGPT wstrzymany na 24 godziny. Kolejne naruszenia mogą oznaczać dłuższe ograniczenia, trwałe zamknięcie konta i zgłoszenie do służb. Komunikaty powstały z udziałem organizacji Protect Children i Lucy Faithfull Foundation oraz badacza Joela Scanlana z Uniwersytetu Tasmańskiego. OpenAI nie podało, czy funkcja działa od razu we wszystkich krajach i językach.

Wytyczne dla twórców aplikacji i narzędzia dla policji

W dokumentacji API pojawiły się wytyczne dla firm budujących produkty na modelach OpenAI. Zaleca się w nich m.in. jasny zakaz takich treści w regulaminie, przycisk zgłaszania, przypisanie każdego przesłanego pliku do użytkownika przez stały identyfikator, łączenie porównywania hashy z klasyfikatorami oraz udział człowieka w ocenie. Dokument podkreśla, że nie jest poradą prawną, a obowiązki zgłaszania zależą od lokalnych przepisów.

Dla wyspecjalizowanych jednostek policji OpenAI przygotowało narzędzia AI i szkolenia. Pierwsze narzędzie pomaga uprawnionym zespołom przeglądać długie zapisy rozmów i legalnie uzyskane dokumenty, wskazywać powiązania i porządkować osie czasu z odwołaniem do materiału źródłowego. Dostęp zależy od zgody administratorów programu.

Co to oznacza w Polsce

Polskie firmy tworzące aplikacje z generowaniem lub przesyłaniem obrazów mogą ubiegać się o dostęp do klasyfikatora, ale OpenAI nie opisało kryteriów zatwierdzania organizacji spoza USA. Wytyczne dotyczące NCMEC odnoszą się do prawa amerykańskiego. W Polsce nielegalne treści z udziałem dzieci zgłasza się do zespołu Dyżurnet.pl działającego w NASK, a platformy działające w UE mają dodatkowe obowiązki z aktu o usługach cyfrowych (DSA).

Ogłoszenie zbiega się z raportem Childlight, według którego liczba zgłoszeń CSAM związanych z AI wzrosła w dwa lata z ok. 4,7 tys. do ponad 400 tys. W naszej ocenie odstraszające komunikaty i lepsze wykrywanie nowych materiałów to krok w dobrą stronę, ale ich skuteczność trzeba będzie ocenić na niezależnych danych, a nie na liczbach dostawcy.

Źródła i data sprawdzenia

  1. OpenAI releases a new image classifier and ChatGPT warnings to combat CSAMTechCrunch, publikacja: 2026-11-16, sprawdzono: 2026-11-16
  2. OpenAI launches free CSAM detection tool to fight AI-generated abuseFox News, publikacja: 2026-11-16, sprawdzono: 2026-11-16
  3. CSAM guidanceOpenAI Developers, publikacja: 2026-11-16, sprawdzono: 2026-11-16
Nota redakcyjna

Artykuł ma charakter informacyjny. Przy decyzjach prawnych, finansowych lub organizacyjnych warto zweryfikować wnioski w odniesieniu do konkretnej sytuacji.