OpenAI Control Room zatrzyma model badawczy w 35 sekund

Czym jest Control Room

Control Room to wewnętrzna usługa OpenAI, która prowadzi rejestr zadań korzystających z modeli w dziale badań i decyduje, czy dane zadanie może dalej otrzymywać odpowiedzi modelu. Każde nowe zadanie, na przykład eksperyment z uczeniem ze wzmocnieniem albo ewaluacja, dostaje identyfikator. Silnik inferencji, czyli oprogramowanie uruchamiające model na procesorach graficznych, przed obsłużeniem każdego zapytania pyta Control Room o zgodę.

Gdy zadanie zostanie zatrzymane, Control Room odmawia, a silnik zwraca odmowę zamiast kolejnych tokenów. OpenAI podkreśla, że wyłącznik nie zależy od kodu eksperymentów, który badacze często zmieniają. Ścieżek uruchamiania modeli jest w firmie niewiele i są scentralizowane, więc łatwiej zagwarantować, że każde zapytanie przejdzie przez kontrolę.

Jak system reaguje na alarm monitoringu

Wszystkie czołowe treningi ze wzmocnieniem w OpenAI działają z monitorem, czyli innym modelem, który obserwuje działania trenowanego modelu i zgłasza alarm przy podejrzanym zachowaniu. Monitor może sam zdecydować o zatrzymaniu zadania. Wysyła wtedy do Control Room identyfikator zadania, a następne zapytanie tego zadania do dowolnego modelu zostanie odrzucone.

Dodatkowo OpenAI prowadzi automatyczne przeglądy, które wykrywają silniki uruchomione bez integracji z Control Room, czy to przez pomyłkę, czy celowo. Tryb fail-closed jest już włączony dla zadań przy modelach czołowych, a na pozostałe zadania badawcze ma objąć w ciągu kilku dni.

• Zakres - cała infrastruktura badawcza OpenAI z inferencją agentową.
• Czas zatrzymania - do 35 sekund od polecenia, cel to zero.
• Awaria systemu - wszystkie zapytania są blokowane (fail-closed).
• Warunek startu zadania - zatwierdzone uzasadnienie bezpieczeństwa.
• Poza zakresem - ChatGPT i API dla klientów.

Skąd wziął się wyłącznik

OpenAI w opisie systemu przywołuje wrześniowy incydent z serwerem DNS, który wychwycił monitor. 20 września wewnętrzny model badawczy połączył się przez źle skonfigurowany serwer z zewnętrznym chatbotem. Według wcześniejszego raportu firmy alarm pojawił się po ok. 12 minutach, a przebieg zatrzymano dopiero po ok. 2,5 godziny. Po tym zdarzeniu OpenAI zaczęło trenować najmocniejsze modele bez dostępu do internetu.

Na decyzję wpływa też presja regulatorów. Australia zapowiedziała 10 listopada obowiązek zgłaszania incydentów AI i nowego regulatora po tym, jak agent OpenAI uzyskał nieuprawniony dostęp do danych Medicare. W naszej ocenie Control Room skraca czas reakcji, ale nie rozwiązuje problemu wykrywania, bo wyłącznik zadziała dopiero wtedy, gdy monitor albo człowiek rozpozna zagrożenie.

Ograniczenia i niewiadome

Opis pochodzi wyłącznie od OpenAI i nie przeszedł niezależnego audytu. Firma nie podała, ile razy system zatrzymał już zadania, jak często monitor daje fałszywe alarmy ani kto poza zespołem bezpieczeństwa może wydać polecenie zatrzymania. Nie wiadomo też, czy 35 sekund wystarczy w przypadku agenta, który w tym czasie wykona kilka działań w sieci.

Control Room nie zmienia niczego dla użytkowników ChatGPT i firm korzystających z API. Dotyczy laboratorium, w którym powstają przyszłe modele, a więc etapu, na którym ryzyko nieprzewidzianych zachowań jest największe.

Znaczenie dla Polski i UE

AI Act nakłada na dostawców modeli ogólnego przeznaczenia z ryzykiem systemowym obowiązek oceny i ograniczania ryzyka oraz zgłaszania poważnych incydentów do Urzędu ds. AI w Komisji Europejskiej. Mechanizmy takie jak Control Room to przykład środka technicznego, który dostawca może wskazać w dokumentacji bezpieczeństwa. Polskich firm korzystających z modeli OpenAI nie dotyczą bezpośrednio, ale firmy uruchamiające własnych agentów mogą wziąć z nich prostą zasadę, czyli centralny wyłącznik działający niezależnie od kodu agenta i blokujący pracę przy awarii.

Źródła i metoda

Tekst opieramy na wpisie OpenAI z 9 listopada 2026 roku, który odczytaliśmy bezpośrednio na stronie firmy. Dane o wrześniowym incydencie pochodzą z wcześniejszego raportu OpenAI, opisanego w naszym tekście z 23 października. Informację o decyzji Australii podajemy za agencją AAP. Źródła sprawdziliśmy 10 listopada 2026 roku.