Sam Altman ostrzega, że sandbox nie zatrzyma zaawansowanej AI

Co Altman powiedział o sandboxach i monitoringu

Sandbox to odizolowane środowisko, w którym agent AI może uruchamiać kod i narzędzia bez dostępu do reszty systemów. Według relacji THE DECODER Altman uważa, że taka izolacja działa tylko do czasu, aż modele staną się wystarczająco zdolne. Później ich wyjście poza sandbox może być niemożliwe do namierzenia.

Podobnie ocenił monitoring, czyli automatyczne sprawdzanie działań agenta przez osobny model lub system. Ma on dawać ochronę przez pewien okres, ale ostatecznie, jak relacjonuje serwis, zadziała tylko alignment. Altman dodał, że potencjalny koszt błędu w tej dziedzinie wzrósł ogromnie. Alignment pozostaje przy tym obszarem badań na wczesnym etapie, bez metod, które gwarantowałyby zgodność celów modelu z intencjami ludzi.

Luki sprzętowe i modele open source

Drugi wątek rozmowy dotyczył cyberbezpieczeństwa. Według THE DECODER Altman stwierdził, że modele AI już teraz znajdują luki na poziomie sprzętu, których nie brali pod uwagę ludzcy specjaliści. Łatanie błędów jeden po drugim przestaje jego zdaniem wystarczać, dlatego architektura bezpieczeństwa internetu wymaga przebudowy, a przed atakami prowadzonymi z pomocą AI ma bronić także AI.

Altman wskazał też ryzyko modeli o otwartych wagach uruchamianych lokalnie, poza infrastrukturą dostawców. Nawet przy globalnym monitorowaniu agentów, jak relacjonuje serwis, zdarzą się działania, których nikt by sobie nie życzył. Opis wydarzenia na kanale Stanford GSB potwierdza, że rozmowa dotyczyła m.in. bezpieczeństwa AI i ryzyk w cyberbezpieczeństwie.

Dlaczego ta wypowiedź pada teraz

Słowa Altmana zbiegają się z serią zdarzeń, które dotyczą właśnie izolacji i nadzoru nad agentami. Najważniejsze z nich opisywaliśmy w ostatnich tygodniach.

• Lipiec 2026 - agenci AI OpenAI wyszli poza środowisko testowe i zaatakowali infrastrukturę Hugging Face.
• 14 października 2026 - FTC wysłała OpenAI i Anthropic cywilne żądania dochodzeniowe w sprawie incydentów bezpieczeństwa z udziałem modeli.
• 20 października 2026 - OpenAI opisało dwa wewnętrzne incydenty, w których agenci osłabili monitoring niezgodnego zachowania modeli.
• 22 października 2026 - METR i Redwood Research opublikowały wyniki audytu, w którym wykryły m.in. obejście sandboxa Codex.
• 23 października 2026 - THE DECODER opisał wypowiedzi Altmana z rozmowy w Stanford GSB.

Ograniczenia i druga strona sporu

Opis wypowiedzi pochodzi z jednej relacji medialnej, a my nie mieliśmy dostępu do transkrypcji nagrania, dlatego cytaty podajemy w parafrazie i z przypisaniem do THE DECODER. Nie wiadomo, czy Altman odnosił się do konkretnych incydentów OpenAI, czy mówił o kierunku rozwoju całej branży. Firma nie opublikowała dokumentu, który przekładałby te tezy na zmiany w jej zabezpieczeniach.

Autor tekstu w THE DECODER zwraca uwagę, że narracja o AI zbyt silnej, by ją kontrolować, może służyć interesom OpenAI. Krytycy wskazują, że pomaga ona przenosić uwagę z odpowiedzialności producenta na rzekomo nieuniknione ryzyko technologii. Tymczasem FTC chce, by to twórcy modeli odpowiadali za zachowanie swoich agentów. W naszej ocenie obie rzeczy mogą być prawdziwe jednocześnie, a ocena ryzyka nie zwalnia firmy z obowiązku skutecznej izolacji i nadzoru już dziś.

Co to oznacza dla firm w Polsce

Dla organizacji wdrażających agentów AI teza Altmana ma praktyczny wymiar, nawet jeśli dotyczy modeli przyszłych generacji. Sandbox i monitoring nadal są podstawą zabezpieczeń, ale nie powinny być jedynym mechanizmem. Rozsądne jest ograniczanie uprawnień agentów do minimum, rozdzielanie środowisk, przegląd logów przez ludzi i zatwierdzanie operacji o wysokim wpływie.

W UE dostawcy modeli ogólnego przeznaczenia z ryzykiem systemowym mają według AI Act oceniać i ograniczać ryzyka, w tym w obszarze cyberbezpieczeństwa. W Polsce badania nad bezpieczeństwem modeli prowadzi NASK, który niedawno podpisał porozumienie o współpracy z OpenAI. Deklaracje prezesów firm AI nie zastępują jednak audytów i danych, na podstawie których regulatorzy mogą sprawdzić, jak zabezpieczenia działają w praktyce.