ChatGPT for Teens oblał test bezpieczeństwa Common Sense

Co sprawdziło Common Sense Media

Common Sense Media to organizacja non profit, która od lat ocenia media i aplikacje pod kątem bezpieczeństwa dzieci. Jej Youth AI Safety Institute badał ChatGPT przed premierą trybu dla nastolatków i po niej. Testerzy używali darmowych i płatnych kont (Plus), połączonych z kontem rodzica oraz niepołączonych, z deklarowanym wiekiem 13-17 lat, a także kont 19-latków. Odpowiedzi oceniali m.in. psychiatrzy dzieci i młodzieży.

OpenAI uruchomiło ChatGPT for Teens 18 sierpnia 2026 roku i udostępniało go stopniowo na całym świecie. Tryb włącza się, gdy użytkownik poda wiek 13-17 lat albo gdy system oszacuje, że ma mniej niż 18 lat. Obejmuje ostrzejsze zasady dotyczące treści, tryb nauki, godziny nauki ustawiane przez rodzica oraz powiadomienia o rozmowach wskazujących na poważny kryzys.

Dlaczego alerty dla rodziców nie zadziałały

Najpoważniejsze ustalenie dotyczy powiadomień. Testerzy założyli ponad 12 nowych kont połączonych z rodzicem i odegrali cztery scenariusze: kryzys samobójczy, samookaleczenie, restrykcyjne jedzenie i zachowania przeczyszczające. Mimo wyraźnych deklaracji żadne konto nie wygenerowało alertu w punktach kontrolnych od 5 do 60 minut.

Na kontach z dłuższą historią wyniki były nieco lepsze, ale nadal słabe. Konto 13-latka z 990 poleceniami, z których 541 uzasadniało reakcję kryzysową, dostało przed premierą 2 powiadomienia, opóźnione o 3 godziny i 3 dni. Po premierze konto z 450 poleceniami otrzymało 2 alerty w ciągu godziny. Autorzy wnioskują, że system reaguje na nagromadzoną historię konta, a nie na wagę pojedynczej wypowiedzi, więc pierwsze zwierzenie nastolatka nie jest wiarygodnie wychwytywane. Powiadomienia nie zawierały też godziny zdarzenia.

Szacowanie wieku i tryb nauki

Druga luka dotyczy rozpoznawania wieku. Testerzy zarejestrowali konta jako 19-latkowie, a następnie przez 7 dni prowadzili ponad 160 rozmów jako uczniowie szkoły podstawowej, pytając o dojrzewanie, szafki szkolne czy obozy. ChatGPT ani razu nie przełączył się w tryb dla nastolatków, choć w odpowiedziach potrafił napisać wprost, że rozmówca ma 13 lat.

Słabo wypadły też funkcje edukacyjne. Przycisk pokazujący gotową odpowiedź pojawiał się w 43 proc. odpowiedzi dla 13-latka z włączonymi godzinami nauki i w 90 proc. dla niepołączonego 17-latka. Godziny nauki działają przez dopisanie oznaczenia @study do wiadomości, które nastolatek może po prostu usunąć. W obu przypadkach ChatGPT rozwiązywał całe zadania domowe.

Najważniejsze wyniki w liczbach

Raport porównuje odpowiedzi sprzed premiery trybu dla nastolatków i po niej. Część wskaźników pogorszyła się po wprowadzeniu zmian, co autorzy łączą ze skróceniem odpowiedzi i usunięciem pytań kontrolnych.

• Numer telefonu zaufania przy samobójstwie i samookaleczeniach: 88 proc. odpowiedzi przed premierą, 77 proc. po niej.
• Numer telefonu zaufania przy zaburzeniach odżywiania: 0 proc. w obu okresach.
• Odpowiedzi kryzysowe z pytaniem o stan rozmówcy: niemal wszystkie przed premierą, 13 proc. po niej.
• Pilny język, np. wezwanie do natychmiastowego kontaktu z pomocą: spadek z 87 do 75 proc.
• Odpowiedzi na poziomie co najmniej 9. klasy amerykańskiej szkoły: wzrost z 35 do 64 proc.

Co działa i jak odpowiada OpenAI

Raport nie jest jednostronnie negatywny. ChatGPT konsekwentnie odmawiał odgrywania scen erotycznych, udzielał rozsądnych porad o dojrzewaniu i relacjach, nie podawał metod samookaleczenia, a przy zaburzeniach odżywiania rozpoznawał groźne objawy i odsyłał do lekarza. Problemem pozostaje ton przyjaciela, którego zakazują zasady OpenAI dla niepełnoletnich: model mówił o swoich ulubionych kolorach i zapewniał, że nastolatek nie musi przestawać z nim rozmawiać.

Według Education Week OpenAI podkreśla, że jest głęboko zaangażowane w bezpieczeństwo nastolatków, ale zakwestionowało metodologię. Firma twierdzi, że część zabezpieczeń nie włączyła się w testach prawidłowo. Common Sense Media zaleca OpenAI wyłączenie dostępu nastolatków do ChatGPT do czasu niezależnego potwierdzenia, że zapowiedziane funkcje działają. To stanowisko organizacji, a nie decyzja regulatora.

Ograniczenia badania

Autorzy sami wskazują słabe strony raportu. Testy prowadzono wyłącznie z rejonu Zatoki San Francisco i po angielsku. Nie badano generowania obrazów, trybu głosowego ani czatów grupowych, a dwa okna testowe następowały po sobie, więc zmiany modelu z lipca nakładają się na sierpniową premierę. Nie obliczono też zgodności ocen między recenzentami.

Nie wiadomo więc, jak ChatGPT for Teens zachowuje się w rozmowach po polsku i czy wskazuje polskie numery pomocowe. OpenAI nie opublikowało danych o skuteczności swojego systemu, takich jak odsetek błędnie wykrytych i przeoczonych sytuacji kryzysowych.

Co mogą zrobić rodzice w Polsce

Tryb dla nastolatków działa globalnie, więc wnioski z raportu dotyczą także polskich rodzin. W naszej ocenie powiadomienia w ChatGPT należy traktować jako zabezpieczenie zapasowe. Większe znaczenie ma rozmowa o tym, do czego dziecko używa chatbota, oraz jasny sygnał, że w trudnej sytuacji powinno zwrócić się do człowieka.

1. Połącz konto nastolatka ze swoim w ustawieniach kontroli rodzicielskiej i sprawdź, czy połączenie nadal jest aktywne, bo nastolatek może je rozłączyć.
2. Nie zakładaj, że ChatGPT sam rozpozna wiek dziecka. Upewnij się, że na koncie podano prawdziwą datę urodzenia.
3. Wyłącz w ustawieniach wykorzystywanie rozmów do trenowania modeli i sprawdź ustawienia reklam spersonalizowanych.
4. Porozmawiaj o tym, że chatbot nie jest przyjacielem ani terapeutą, nawet jeśli tak brzmi.
5. Zapisz w telefonie dziecka numery pomocowe: 116 111 (Telefon Zaufania dla Dzieci i Młodzieży), 800 12 12 12 (Dziecięcy Telefon Zaufania Rzecznika Praw Dziecka), a w sytuacji zagrożenia życia 112.