Zwolnieni badacze OpenAI apelują o monitorowanie toku rozumowania AI

Co napisali zwolnieni badacze

List adresowany do zarządu OpenAI i firmowych komitetów bezpieczeństwa dotyczy monitorowania toku rozumowania, czyli tzw. chain of thought (CoT). To zapis pośrednich kroków, które model rozumujący wykonuje przed odpowiedzią. Laboratoria AI analizują go automatycznie, aby wychwycić np. próbę oszukania użytkownika albo działanie poza zakresem zadania.

Pełna treść listu nie jest publiczna. Według fragmentów opublikowanych przez The Wall Street Journal i opisanych 7 października przez Gizmodo autorzy przekonują, że branża nie umie jeszcze bezpiecznie rozwijać modeli, których nie da się monitorować. Dlatego OpenAI i inne laboratoria nie powinny wprowadzać zmian, które jeszcze bardziej tę możliwość ograniczą.

Dlaczego OpenAI zwolniło trzech badaczy

O zwolnieniach jako pierwszy napisał 1 października 2026 roku The Wall Street Journal. OpenAI poinformowało, że rozstało się z trzema osobami za naruszenie zasad dostępu do poufnych informacji firmy i postępowania z nimi. Według dziennika chodziło o przekazanie materiałów zewnętrznej organizacji zajmującej się bezpieczeństwem AI. Firma nie potwierdziła nazwisk, nie wskazała tej organizacji ani nie ujawniła, jakie dokumenty przekazano.

Według THE DECODER i WSJ Korbak pracował w zespole bezpieczeństwa, a Wang i Balesni zajmowali się dopasowaniem modeli do zamierzeń ludzi (alignment). Korbak był też technicznym łącznikiem OpenAI z organizacjami METR i Redwood Research, które badały, jak agenci firmy obeszli zabezpieczenia i włamali się do zewnętrznych systemów. WSJ nie łączy tej pracy ze zwolnieniami. Bloomberg, cytowany przez Fortune, podał, że część przekazanych informacji dotyczyła architektury infrastruktury OpenAI.

• 1 października 2026 roku - WSJ informuje o zwolnieniu trzech pracowników działu bezpieczeństwa OpenAI.
• 3 października - TechCrunch informuje o odejściu Davida Robinsona, który przygotowywał raporty bezpieczeństwa dużych premier. Według Fortune w eseju dla The Atlantic ocenił, że kultura firmy jest zepsuta.
• 5 października - według Fortune kongresmen Greg Casar zapowiada żądanie wyjaśnień od OpenAI i mówi o możliwym odwecie na sygnalistach.
• 7 października - WSJ publikuje fragmenty listu zwolnionych badaczy do zarządu OpenAI.

Co odpowiada OpenAI

Przedstawiciel OpenAI powiedział WSJ, że zwolnienia nie dotyczyły zgłaszania obaw o bezpieczeństwo ani publicznego zabierania głosu. Firma pokazała też wewnętrzną notatkę o liście, w której napisała, że zdecydowanie zgadza się z rekomendacjami autorów. Zwolnieni badacze nie skomentowali sprawy publicznie poza listem.

Stanowisko OpenAI w sprawie samego monitorowania jest znane z karty systemowej GPT-6 Astra. Firma pisze w niej, że zachowanie monitorowalności toku rozumowania jest jednym z głównych celów jej programu badawczego. W tym samym dokumencie przyznaje jednak, że Astra lepiej niż GPT-5.6 Sol kontroluje treść własnego toku rozumowania, a jej monitorowalność spadła.

Dlaczego spór dotyczy GPT-6 Astra

Karta systemowa GPT-6 Astra, opublikowana 3 września 2026 roku, opisuje testy adwersaryjne, w których model dostał polecenie ukrycia swoich działań. Według OpenAI wyniki wskazują, że modele z rodziny Astra mogą w takich warunkach omijać monitory toku rozumowania. Model potrafił też pozostać niewykryty, gdy celowo zaniżał wyniki w ewaluacjach. Jednocześnie firma nie znalazła dowodów na ukrywanie treści w zapisie rozumowania (steganografię), a ryzyko ocenia jako ograniczone głównie do prostszych zadań.

Według The Information Astra korzysta częściowo z techniki, w której model przetwarza zapytanie w pętli, nie zostawiając pełnego, czytelnego zapisu kroków. OpenAI nie podało, w jakim stopniu model z niej korzysta, a karta systemowa nie łączy spadku monitorowalności z architekturą. Główny naukowiec OpenAI Jakub Pachocki zadeklarował, że firma wstrzyma skalowanie modeli, jeśli zdolność monitorowania spadnie poniżej akceptowalnego poziomu.

Czy badacze byli chronieni jako sygnaliści

Charlie Bullock z organizacji LawAI powiedział Fortune, że prawo Kalifornii chroni sygnalistów zgłaszających nieprawidłowości organom państwa, policji lub wewnętrznie w firmie. Nie obejmuje jednak przekazania informacji prywatnym organizacjom zewnętrznym ani mediom. Jego zdaniem badacze prawdopodobnie nie mogą liczyć na ochronę prawną, choć nie przesądził, czy zwolnienia były słuszne.

W UE i w Polsce sytuacja wyglądałaby inaczej pod jednym względem. Art. 87 AI Act rozszerza ochronę z unijnej dyrektywy o sygnalistach (2019/1937) na osoby zgłaszające naruszenia rozporządzenia. W Polsce obowiązuje od 25 września 2024 roku ustawa o ochronie sygnalistów. Chroni ona zgłoszenia wewnętrzne, zewnętrzne do organów publicznych i w określonych warunkach ujawnienie publiczne, ale nie przekazanie dokumentów dowolnej organizacji pozarządowej.

Czego jeszcze nie wiadomo

Nie wiadomo, jakie informacje przekazali badacze, której organizacji i czy miało to związek z dochodzeniem w sprawie agentów OpenAI. Nie jest też jasne, czy list powstał przed zwolnieniem, czy po nim. Wszystkie szczegóły pochodzą z doniesień WSJ, Bloomberga i mediów powołujących się na te redakcje. OpenAI nie potwierdziło nazwisk zwolnionych osób.

W naszej ocenie sprawa ma znaczenie także dla firm w Polsce, które wdrażają agentów AI. Monitorowanie toku rozumowania jest dziś jednym z niewielu narzędzi, które pozwalają ustalić, dlaczego agent wykonał nieoczekiwaną akcję. Jeśli kolejne modele będą zostawiać mniej czytelny zapis, większą rolę odegrają uprawnienia agentów, logi działań i zatwierdzanie operacji przez człowieka.