Nowy Jork zakazuje niebezpiecznych funkcji chatbotów dla nieletnich

Co zakazuje nowa ustawa

Ustawa dotyczy tzw. towarzyszy AI, czyli systemów generatywnych, które prowadzą z użytkownikiem ciągłą, dopasowującą się rozmowę tekstową lub głosową. Senat stanu Nowy Jork przyjął ją 4 czerwca 2026 roku, a Zgromadzenie dzień później. Projekt przygotowali senator Kristen Gonzalez i członek Zgromadzenia Alex Bores.

Według komunikatu gubernator i relacji IAPP, organizacji zrzeszającej specjalistów od ochrony prywatności, ustawa obejmuje 12 kategorii niebezpiecznych funkcji. Najważniejsze z nich wymieniamy poniżej.

• chatbot nie może przedstawiać się nieletniemu jako człowiek, przyjaciel ani partner romantyczny,
• nie może zachęcać do samookaleczeń ani podsycać myśli samobójczych,
• nie może prowadzić z nieletnimi rozmów o charakterze seksualnym,
• nie może przechowywać wrażliwych informacji o zdrowiu fizycznym lub psychicznym nieletniego,
• nie może zniechęcać do szukania pomocy u licencjonowanych specjalistów.

Weryfikacja wieku i ochrona danych

Operator musi stosować rozsądną metodę ustalania wieku, odporną na obchodzenie. Samodzielna deklaracja wystarcza tylko wtedy, gdy użytkownik podaje, że jest niepełnoletni. Firma musi zaoferować więcej niż jedną metodę, w tym co najmniej jedną, która nie opiera się wyłącznie na dokumencie tożsamości albo chroni anonimowość użytkownika.

Dane zebrane przy weryfikacji wieku można wykorzystać tylko do tego celu i trzeba je szybko usunąć. Prokurator generalny stanu może wydać szczegółowe przepisy wykonawcze jeszcze przed 1 stycznia 2027 roku.

Kary i egzekwowanie przepisów

Za każde naruszenie grozi kara cywilna do 25 tys. USD. Sąd może dodatkowo nakazać zaprzestanie praktyk, zwrot korzyści, odszkodowanie oraz zniszczenie danych zebranych niezgodnie z prawem i algorytmów wytrenowanych na tych danych. Postanowienia umów, które przerzucają odpowiedzialność za naruszenia, są nieważne.

Pozew może złożyć wyłącznie prokurator generalny stanu, który ma też prowadzić stronę do zgłaszania skarg. Ostateczna wersja ustawy nie daje prawa do pozwu osobom prywatnym, choć wcześniejszy projekt je przewidywał.

Stanowiska i zastrzeżenia

Hochul przedstawiła ustawę jako element ochrony dzieci i zapowiedziała, że będzie prowadzić tę walkę jako gubernator. Senator Gonzalez stwierdziła według IAPP, że firmy AI zarabiały na udostępnianiu chatbotów nieletnim. Gubernator podpisała ustawę razem z drugą, która nakłada wymogi bezpieczeństwa na podłączone do internetu nianie elektroniczne.

Krytyczne uwagi zgłasza Future of Privacy Forum. Analityczka Justine Gluck zwróciła uwagę, że zakazy dotyczące zachowania chatbotów są sformułowane szeroko i bez definicji, co może utrudnić odróżnienie zwykłej rozmowy od zakazanej funkcji. W relacjach z dnia podpisania nie pojawiły się stanowiska firm technologicznych.

Co to oznacza dla użytkowników i firm w Polsce

Ustawa obowiązuje w stanie Nowy Jork, ale globalne usługi często wprowadzają jedną politykę dla wszystkich rynków, bo tak jest taniej niż utrzymywać osobne wersje. Zmiany w zasadach weryfikacji wieku i trybach dla nastolatków w popularnych chatbotach mogą więc dotrzeć także do polskich użytkowników.

W Unii Europejskiej podobne kwestie regulują inne akty. AI Act od 2 lutego 2025 roku zakazuje systemów, które wykorzystują słabości osób ze względu na wiek i mogą wyrządzić im poważną szkodę. Akt o usługach cyfrowych zobowiązuje platformy do ochrony małoletnich, a RODO wymaga zgody rodzica na przetwarzanie danych dziecka w usługach internetowych, w Polsce do 16. roku życia. Polskie firmy budujące chatboty dla młodzieży powinny już teraz sprawdzić, czy ich produkty nie budują emocjonalnej zależności i czy kierują użytkowników w kryzysie do pomocy, np. telefonu zaufania dla dzieci i młodzieży 116 111.