Paryski apel o bezpieczeństwo AI. Kto podpisał i co obiecał

Co zawiera paryski apel o bezpieczeństwo AI

Deklaracja zaczyna się od wspólnej diagnozy. Najbardziej zaawansowane modele, nazywane modelami granicznymi (frontier models), powstają i działają ponad granicami, więc ich ryzyka mają charakter globalny. Żadne państwo, firma ani organizacja międzynarodowa nie poradzi sobie z nimi sama.

Sygnatariusze wskazują trzy obszary zgody. To potrzeba jasnych i przewidywalnych ram regulacyjnych, szybkich efektów w przejrzystości, zgłaszaniu incydentów, zarządzaniu ryzykiem i weryfikacji oraz rygorystyczne standardy ewaluacji modeli. Na tej podstawie przyjęli trzy zobowiązania.

• Wspólne ramy oceny i zarządzania ryzykiem modeli granicznych, ze szczególnym naciskiem na nadużycia w cyberbezpieczeństwie i w obszarze broni chemicznej, biologicznej, radiologicznej i jądrowej oraz na utratę kontroli nad modelem.
• Zasada odpowiedzialności wszystkich uczestników rynku AI według ich roli, z niezależną oceną przez kompetentne podmioty zewnętrzne.
• Wymiana informacji, zgłaszanie incydentów i systemy wczesnego ostrzegania, oparte na istniejących mechanizmach reagowania na incydenty, w tym w cyberbezpieczeństwie.

Zobowiązania twórców modeli AI

Najbardziej konkretna część dotyczy firm, które budują modele graniczne. Obiecują ujawniać możliwości, ograniczenia i znane ryzyka modeli, a tam, gdzie jest to proporcjonalne do ryzyka, wspierać ich ocenę przez niezależnych ewaluatorów. Zobowiązują się też wdrożyć mechanizmy zatrzymania działania modeli pod swoją kontrolą, czyli ograniczenia, pauzy lub wyłączenie, także podczas treningu i użytku wewnętrznego.

Przykładem takiego mechanizmu jest Control Room, który OpenAI opisało tego samego dnia. System przerywa zadania modeli w infrastrukturze badawczej firmy najpóźniej po 35 sekundach. Deklaracja nie określa jednak, jak szybko i w jakiej formie ma działać wyłącznik u pozostałych sygnatariuszy.

Firmy uznają też ryzyko usuwania lub obchodzenia zabezpieczeń, ale chcą zachować korzyści z modeli o otwartych wagach dla badań i innowacji. To ustępstwo wobec takich sygnatariuszy jak Mistral AI, Hugging Face czy Black Forest Labs, którzy udostępniają otwarte modele. Deklaracja zapowiada ponadto wewnętrzny nadzór z ciągłym zarządzaniem ryzykiem, monitorowaniem nowych możliwości modeli i ochroną badaczy, którzy zgłaszają problemy.

Kto podpisał deklarację, a kogo brakuje

Według Pałacu Elizejskiego lista sygnatariuszy z 9 listopada 2026 roku wygląda następująco. Dokument pozostaje otwarty na kolejne podpisy i jest aktualizowany.

• Państwa - Bahrajn, Cypr, Finlandia, Francja, Holandia, Kanada, Kenia i Norwegia.
• Firmy i organizacje branżowe - Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia, Geopolitical Center for the Datasphere i GPAI Policy Lab.
• Organizacje społeczne - LawZero Yoshuy Bengio, SaferAI, AI Safety Connect i francuski instytut Ifri.

Czego brakuje w paryskim apelu

Na liście nie ma Stanów Zjednoczonych, Wielkiej Brytanii, Niemiec ani Polski. Brakuje też Google DeepMind, Mety i xAI, czyli trzech z największych twórców modeli granicznych. Bez nich wspólne ramy ewaluacji i system zgłaszania incydentów obejmą tylko część rynku.

Tekst nie zawiera dat, sankcji ani mechanizmu sprawdzania, czy sygnatariusze dotrzymują obietnic. Część zapisów ma formę warunkową. Wspólne standardy techniczne miałyby dopiero powstać, a nad mechanizmem współpracy przy incydentach sygnatariusze chcą się zastanowić. W naszej ocenie to deklaracja polityczna, której wartość pokaże dopiero pierwsze wspólne repozytorium wyników ewaluacji.

Co to oznacza dla Polski i firm w UE

Dla polskich firm, które korzystają z modeli AI, apel niczego formalnie nie zmienia. W Unii Europejskiej dostawców modeli ogólnego przeznaczenia o ryzyku systemowym obowiązuje już AI Act. Od 2 sierpnia 2025 roku muszą oni oceniać modele, w tym testami adwersarialnymi, ograniczać ryzyka systemowe, zgłaszać poważne incydenty do Biura ds. AI Komisji Europejskiej i dbać o cyberbezpieczeństwo. Biuro ds. AI wysłało już w tej sprawie żądania informacji do OpenAI i Anthropic.

Zapis o sygnalistach także ma odpowiednik w polskim prawie. Ustawa o ochronie sygnalistów obowiązuje od 25 września 2024 roku i chroni osoby zgłaszające naruszenia prawa UE. Paryska deklaracja idzie dalej, bo mówi o zgłaszaniu ryzyk systemowych, a nie tylko naruszeń przepisów.

Praktyczna korzyść dla użytkowników w Polsce może przyjść z publicznego repozytorium ewaluacji. Jeśli powstanie, działy IT i zakupów zyskają porównywalne dane o ryzykach modeli przy wyborze dostawcy. Na razie warto śledzić, czy do deklaracji dołączą kolejni twórcy modeli i państwa UE, w tym Polska.