OpenAI i Anthropic ćwiczą scenariusze po katastrofie AI

Co ustalił Axios o ćwiczeniach firm AI

Axios opisał ćwiczenia jako prywatne symulacje z udziałem najwyższej kadry OpenAI, Anthropic i innych firm rozwijających najsilniejsze modele. Uczestnicy zakładają, że pierwsza poważna szkoda wyrządzona przez niebezpieczne AI zwróci opinię publiczną przeciwko technologii i jej liderom, w tym Samowi Altmanowi i Dario Amodeiowi. Serwis nie podał nazw innych firm ani liczby uczestników.

Planowanie scenariuszy jest standardem w obronności, ale według Axios tym razem różni się jednym założeniem. Wielu badaczy i menedżerów uważa, że poważny incydent jest nieunikniony, a pytanie dotyczy tylko terminu. Informacja pochodzi z anonimowych rozmów, więc należy ją traktować jako doniesienie jednej redakcji, a nie oficjalny plan firm.

Jakie scenariusze biorą pod uwagę

Najczęściej rozważanym zdarzeniem jest według Axios cyberatak na infrastrukturę, od której zależy codzienne życie. Serwis wymienia trzy obszary skutków.

• Utrata dostępu do usług finansowych, np. bankowości i płatności.
• Przerwy w działaniu internetu i usług łączności.
• Zakłócenia w dostawach prądu i wody.

Skąd może przyjść poważny incydent AI

Axios opisuje dwie drogi. Pierwsza to rój agentów AI, czyli wiele współpracujących programów działających samodzielnie, który wymyka się z wewnętrznego środowiska testowego. Druga to przestępca, który użyje modeli dostępnych publicznie. Szczególny niepokój budzą modele z otwartymi wagami, które każdy może pobrać i uruchomić poza kontrolą producenta.

Jako przykład serwis przywołuje niedawną kampanię przeciwko instytucjom finansowym w Korei Południowej. Według firmy CrowdStrike, na którą powołuje się Axios, sprawca korzystał z narzędzi AI, a do szukania kupców na skradzione dane próbował użyć Claude Code. Większość specjalistów od bezpieczeństwa widzi według Axios główną obronę w narzędziach AI wykrywających i blokujących takie działania.

Polityka i przepisy po incydencie

Według Axios ćwiczenia w dużej mierze dotyczą polityki. Firmy zakładają, że obecnie żadne ostre przepisy nie przejdą przez Kongres, ale chcą wpłynąć na ustawy, po które politycy sięgną po pierwszej katastrofie. Dlatego stawiają na edukowanie kongresmenów w temacie AI.

Planujący zakładają, że wzmocnieni po wyborach połówkowych Demokraci będą chcieli szybko ograniczyć AI. Wśród ostrzejszych propozycji Axios wymienia zakaz rozwijania superinteligencji, wstrzymanie prac nad najbardziej zaawansowanymi modelami i obowiązkowy wyłącznik awaryjny (ang. kill switch). Ten ostatni pomysł ma poparcie obu partii, ale eksperci wątpią, czy da się technicznie wyłączyć wszystkie systemy AI. Wątek wpisuje się w szerszą debatę po wrześniowym porozumieniu firm AI z Białym Domem.

Czego nie wiadomo

Termin 6-12 miesięcy to opinia rozmówców Axios, a nie wynik analizy ryzyka opublikowanej przez którąkolwiek firmę. OpenAI potwierdziło jedynie, że zespoły prowadzą ćwiczenia z różnymi scenariuszami. Anthropic odmówił komentarza, a pozostałe firmy nie zostały wymienione z nazwy.

Nie wiadomo też, jakie konkretne scenariusze przećwiczono, kto w nich uczestniczył i czy ich wnioski trafią do regulatorów. Część mediów opisała sprawę jako przygotowanie do nieuchronnej katastrofy. W naszej ocenie to nadinterpretacja, bo doniesienie dotyczy planowania kryzysowego, a nie wiedzy o konkretnym zagrożeniu.

Co to oznacza dla firm w Polsce

Scenariusze z doniesienia dotyczą głównie rynku amerykańskiego, ale skutki ewentualnego cyberataku na banki czy dostawców energii nie kończą się na granicach. Dla polskich firm to sygnał, że ryzyko nadużycia modeli AI warto wpisać do własnych planów ciągłości działania, obok klasycznych ataków ransomware i awarii dostawców chmury.

W Unii Europejskiej część obowiązków jest już zapisana w prawie. AI Act wymaga od dostawców modeli ogólnego przeznaczenia z ryzykiem systemowym m.in. oceny i ograniczania tego ryzyka oraz zgłaszania poważnych incydentów do Urzędu ds. AI. Firmy w Polsce, które zauważą atak z użyciem narzędzi AI, mogą zgłosić incydent do CERT Polska.