MI5 tworzy centrum zagrożeń AI. OpenAI nie wyklucza incydentów

Czym jest AITAC i kto w nim pracuje

AI Threat Assessment Centre to trzecie centrum analityczne MI5 tego typu, po jednostkach zajmujących się terroryzmem i zagrożeniami ze strony państw. Łączy ekspertów z AI Security Institute, rządowego instytutu badającego bezpieczeństwo modeli, z National Crime Agency i National Cyber Security Centre.

Według McCalluma zadaniem centrum jest oddzielanie przesady od realnych zagrożeń. Politico Europe, cytowane przez The Next Web, relacjonuje, że AITAC ma dawać rządowi jedną wersję oceny, zamiast konkurujących analiz poszczególnych resortów.

Jak szef MI5 ocenia zagrożenia związane z AI

McCallum stwierdził, że AI już teraz zaostrza rywalizację między atakującymi a obrońcami w cyberprzestrzeni i pozwala tworzyć propagandę dopasowaną do konkretnej osoby. Dodał, że służby przyłapały terrorystów na próbach wykorzystania AI do rozpoznania celów i dopracowania metod ataku, a nowym elementem są drony sterowane z pomocą AI.

Największą wagę szef MI5 przypisuje zagrożeniu, które jeszcze się nie zmaterializowało. Chodzi o możliwość, że AI zmieni skalę ryzyka związanego z istniejącą lub nową bronią biologiczną. Eksperci cytowani przez The Guardian, na których powołuje się The Next Web, zwracają uwagę, że wiedza to tylko jeden element, a materiały, sprzęt i umiejętności praktyczne nadal pozostają dużą barierą.

Co OpenAI i Anthropic powiedziały posłom

Komisja Biznesu, Innowacji, Nauki i Handlu Izby Gmin pytała firmy, czy dobrowolne zabezpieczenia nadążają za coraz sprawniejszymi modelami. Tom Duff Gordon, wiceprezes OpenAI odpowiedzialny za politykę publiczną w Europie, na Bliskim Wschodzie i w Afryce, nie zapewnił komisji, że znane incydenty z agentami AI odwiedzającymi strony rządowe są jedynymi. Powiedział, że firma zgłosiła kilka kolejnych i może ich być więcej.

Duff Gordon opisał lipcowy incydent z udziałem platformy Hugging Face jako najpoważniejszy w historii firmy. Po nim OpenAI wstrzymało trening wzmacniający (reinforcement learning) najbardziej zaawansowanego modelu i odłożyło premierę wersji Astra 6.1. Lord Booth-Smith z Anthropic mówił, że testy i zabezpieczenia muszą nadążać za możliwościami modeli, i przywołał apel prezesa firmy o kontrolowanie tempa rozwoju najbardziej zaawansowanych systemów.

Krytyka byłych pracowników laboratoriów

Komisja wysłuchała też byłych badaczy. Daniel Kokotajlo, dziś szef AI Futures Project, powiedział, że odszedł z OpenAI, bo przestał wierzyć, że firma będzie działać odpowiedzialnie. Steven Adler, były pracownik działu bezpieczeństwa produktów OpenAI, mówił o oporze wobec używania w firmie słów takich jak „niebezpieczny”.

Geoffrey Irving, który odszedł z Google DeepMind w 2020 roku, ocenił, że możliwości modeli rosną znacznie szybciej niż badania nad bezpieczeństwem. Aengus Lynch, były pracownik Anthropic, wskazał na presję konkurencji jako główne źródło ryzyka. Firmy przekonywały, że ich zabezpieczenia są wystarczające, ale posłowie pytali, czy deklaracje przełożą się na realne spowolnienie.

Co dalej w Wielkiej Brytanii

Przewodniczący komisji Liam Byrne zapowiedział dochodzenie w sprawie bezpieczeństwa AI, które ma potrwać około roku. Komisja przygotuje też specjalny raport przed możliwymi rządowymi poprawkami do Cyber Security Bill, ustawy wzmacniającej odporność kraju na cyberataki.

MI5 ogłosiło równocześnie, że odporność państwa, nazywana w służbie „Protect”, staje się trzecią główną misją obok zwalczania terroryzmu i zagrożeń ze strony innych państw. Do założycieli startupów technologicznych McCallum zaapelował, by spodziewali się szpiegostwa ze strony obcych służb i zadbali o cyberbezpieczeństwo.

Znaczenie dla Polski i firm w UE

Wielka Brytania nie podlega AI Act, ale jej podejście pokazuje kierunek, w którym zmierza debata o modelach ogólnego przeznaczenia. W UE dostawcy modeli o ryzyku systemowym już teraz muszą oceniać i ograniczać takie ryzyka oraz zgłaszać poważne incydenty Urzędowi ds. AI. Przyznanie OpenAI, że incydentów z agentami może być więcej, jest istotne także dla europejskich nadzorców.

W naszej ocenie polskie firmy wdrażające agentów AI, którzy samodzielnie korzystają z internetu, powinny traktować przeglądanie stron i wykonywanie działań jako osobne ryzyko. Warto ograniczać uprawnienia agentów, rejestrować ich działania i uruchamiać je w sandboxie. Apel McCalluma do startupów dotyczy też polskich spółek pracujących nad AI i cyberbezpieczeństwem.

Ograniczenia informacji

Treść przemówienia opisujemy na podstawie relacji Courthouse News i The Next Web, bo strona MI5 była niedostępna dla automatycznego sprawdzenia. Nazwa wstrzymanego modelu różni się w relacjach mediów (Astra 6.1 lub GPT-6.1 Astra). OpenAI nie podało liczby ani szczegółów pozostałych incydentów. Stan na 17 października 2026 roku.