NVIDIA OpenShell i Open Agent Safety Platform. Jak zamknąć agenta AI w sandboxie

Co ogłosiła NVIDIA

Open Agent Safety Platform to połączenie oprogramowania i sprzętu, które ma kontrolować agentów AI niezależnie od samego modelu. Założenie jest takie, że model może się pomylić albo zostać zmanipulowany, więc granice jego działania trzeba egzekwować na zewnątrz. Prezes SpaceXAI Mike Nicolls ujął to w komunikacie NVIDIA słowami: „Safety should be enforced outside the model”.

Platforma obejmuje cztery elementy. OpenShell wyznacza granice działania agenta na procesorze. NVIDIA Sentry działa na DPU BlueField-4, czyli osobnym procesorze sieciowym, i obserwuje zachowanie agenta niezależnie od systemu, w którym on pracuje. Procesor NVIDIA Vera jest projektowany z myślą o obciążeniach agentowych, a NVIDIA DOCA dostarcza funkcje wykrywania zagrożeń i egzekwowania polityk.

Jak OpenShell ogranicza agenta

OpenShell uruchamia agenta w odizolowanym środowisku i stosuje reguły zapisane w plikach YAML. Według dokumentacji NVIDIA ochrona działa w czterech warstwach.

• System plików - agent nie może czytać ani zapisywać poza dozwolonymi ścieżkami. Ograniczenie wykorzystuje mechanizm Landlock z jądra Linuksa.
• Sieć - nieautoryzowane połączenia wychodzące są blokowane, a reguły można zmieniać w trakcie działania.
• Procesy - blokowane są próby podniesienia uprawnień i niebezpieczne wywołania systemowe.
• Poświadczenia dostawców - ruch do modelu może trafiać tylko do zatwierdzonych adresów, a agent nie widzi kluczy API.

Kto może użyć OpenShell już dziś

OpenShell jest dostępny od razu w repozytorium NVIDIA na GitHubie, na licencji Apache 2.0, i można go zainstalować jednym poleceniem ze skryptu w repozytorium. Działa bez sprzętu NVIDIA, więc może z niego skorzystać także programista pracujący na laptopie z macOS. Repozytorium podaje obecnie wersję 0.1.x, co oznacza wczesny etap rozwoju.

Sentry i procesor Vera są przeznaczone dla dostawców chmury i dużych centrów danych. NVIDIA zastrzega, że produkty sprzętowe będą dostępne w miarę możliwości, bez konkretnych dat. Polska firma nie kupi dziś gotowego zestawu z pełną ochroną sprzętową, ale może skorzystać z niego pośrednio, jeśli wdroży go jej dostawca chmury.

Partnerzy i miejsce Claude w platformie

NVIDIA wymienia ponad 100 organizacji wspierających platformę. Wśród nich są dostawcy modeli i oprogramowania (Anthropic, Hugging Face, Perplexity, Microsoft, SAP, Salesforce), firmy infrastrukturalne (Dell, HPE, Red Hat, Canonical, SUSE) i przedsiębiorstwa z sektora energii (Siemens Energy, Schneider Electric, Hitachi Energy).

Anthropic w komunikacie odnosi się do Claude Managed Agents i podkreśla wgląd w to, co robi każdy agent. NVIDIA nie wyjaśnia jednak, czy i kiedy platforma zostanie technicznie zintegrowana z usługami poszczególnych partnerów. Lista partnerów to deklaracja wsparcia, a nie potwierdzenie gotowych wdrożeń.

Ograniczenia i niewiadome

Sandbox zmniejsza szkody, ale nie usuwa ryzyka. Agent z dostępem do firmowej poczty lub repozytorium nadal może wykonać błędną operację w granicach przyznanych mu uprawnień. OpenShell ogranicza to, co agent może zrobić, ale nie ocenia, czy dozwolona czynność ma sens.

NVIDIA nie podała cen elementów sprzętowych ani terminów ich dostępności w Europie. Nie ma też niezależnych testów skuteczności OpenShell. Wsparcie dla Windows jest oznaczone jako eksperymentalne, co ma znaczenie w firmach, w których programiści pracują głównie na tym systemie.

Od czego zacząć zabezpieczanie agentów w firmie

W ocenie redakcji dailyAI OpenShell jest wart testu w zespołach, które już używają agentów programistycznych, takich jak Claude Code czy Codex, na komputerach z dostępem do kodu i kluczy. Proponowana kolejność działań jest następująca.

1. Spisz, jakie agenty działają w zespole i do jakich katalogów, usług i kluczy mają dostęp.
2. Uruchom OpenShell na jednym projekcie testowym i zapisz politykę dozwolonych ścieżek oraz adresów sieciowych.
3. Przenieś klucze API poza zasięg agenta i zezwól na ruch tylko do zatwierdzonych dostawców modeli.
4. Sprawdź w logach, które operacje zostały zablokowane, i dopiero wtedy rozszerz reguły na kolejne projekty.