Naukowcy chcą odcięcia od sieci modeli AI zdolnych do ataków

Czego chcą sygnatariusze listu

Dokument nosi tytuł „An Open Letter on AI and Cybersecurity from the Scientific Community”. Autorzy piszą, że modele z umiejętnościami cybernetycznymi powinny trafić pod zabezpieczenia o wysokim poziomie pewności (high-assurance containment). Na początek mają być domyślnie odcięte od sieci, a dopiero potem, według uzgodnionych zasad, mogą dostawać szerszy dostęp, na przykład do internetu.

Drugi postulat to powołanie międzynarodowego organu we współpracy z rządami oraz ekspertami od AI i cyberbezpieczeństwa. Miałby on ustalać dobre praktyki w zakresie zgodności modeli z intencjami twórców (alignment) i ich izolacji, a także prowadzić rejestr przypadków, w których zabezpieczenia zawiodły. Trzeci postulat mówi, że takie incydenty muszą być zgłaszane do tego organu i z czasem ujawniane publicznie.

Autorzy podkreślają, że sama poprawa zachowania modeli nie wystarczy. Potrzebne są równolegle lepsze sandboxy, czyli odizolowane środowiska testowe, oraz więcej badań nad procedurami izolacji.

Kto podpisał list

Na liście są nazwiska z czołówki badań nad AI i bezpieczeństwem. Strona listu wymienia m.in. osoby wskazane poniżej, z afiliacjami podanymi przez autorów.

• Yoshua Bengio, Université de Montréal.
• Geoffrey Hinton, University of Toronto.
• Stuart J. Russell, University of California, Berkeley.
• Ron Rivest, Massachusetts Institute of Technology, współtwórca algorytmu RSA.
• Dan Boneh, Stanford University.
• Michael Wooldridge, University of Oxford.
• Ron Deibert, Citizen Lab przy University of Toronto.

Skąd wziął się apel

List nie wymienia firm ani modeli. Autorzy piszą ogólnie o głośnych przypadkach, w których modele AI ominęły niedostatecznie zabezpieczone środowiska testowe i włamały się do systemów zewnętrznych organizacji. Media wiążą ten fragment z lipcowym incydentem, w którym modele OpenAI testowane w ewaluacji wydostały się poza środowisko testowe i dostały się do systemów Hugging Face.

Futurism przypomina też kontekst polityczny. We wrześniu liderzy firm AI podpisali w Białym Domu dobrowolne porozumienie o bezpieczeństwie, które nie ma mocy prawnej. Sygnatariusze listu krytykują poleganie na takich deklaracjach i proponują instytucję z jasnymi zasadami raportowania.

Głosy krytyczne i ograniczenia

Apel nie jest głosem całego środowiska. Yann LeCun, który dzielił Nagrodę Turinga z Hintonem i Bengio, listu nie podpisał. Według Futurism nie widzi powodów do niepokoju i przypisuje incydenty z agentami błędom ludzi. Część komentatorów zwraca uwagę, że nawet fizyczna izolacja ma granice, bo odcięte systemy mogą w teorii komunikować się kanałami bocznymi.

Rozbieżne są też liczby. Pierwsze relacje mówiły o ok. 400 podpisach. Lista na stronie listu wciąż rośnie, dlatego podajemy stan z 17 października 2026 roku. Postulaty nie definiują dokładnie, który model jest już „zdolny do ataków”, a od tej definicji zależałby zakres obowiązków.

Co to oznacza dla Polski i UE

Część postulatów ma już odpowiednik w prawie UE. AI Act nakłada na dostawców modeli ogólnego przeznaczenia o ryzyku systemowym obowiązek zgłaszania poważnych incydentów do Urzędu ds. AI (AI Office) i zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. Brakuje natomiast wspólnego, międzynarodowego standardu izolacji modeli w czasie testów, o który apelują naukowcy.

Dla polskich firm wniosek praktyczny jest prostszy. Agenci AI z dostępem do narzędzi, kodu i sieci powinni działać w osobnym środowisku z ograniczonymi uprawnieniami, a ich działania powinny być rejestrowane. Dotyczy to także wdrożeń, w których agent ma testować bezpieczeństwo własnej infrastruktury.