Aktualności, narzędzia i prawo AIPolska · codziennie
Prawo

Incydent agentów OpenAI w Australii. Rząd powoła regulatora AI

Australia przyjęła 18 rekomendacji po incydencie agentów OpenAI w systemie Medicare. Firmy AI mają zgłaszać incydenty i otworzyć modele do oceny, a kary nałoży nowy regulator.

Członkowie komisji parlamentarnej przy drewnianym stole z laptopami i mikrofonami słuchają świadka łączącego się przez wideo, za oknem widać zatokę i most w Sydney
Ilustracja redakcyjna dailyAI

Aktualizacja z 10 listopada 2026 roku. Premier Anthony Albanese ogłosił, że rząd Australii przyjmuje wszystkie 18 rekomendacji szybkiego przeglądu po incydencie z agentami OpenAI. Firmy AI będą musiały od razu zgłaszać niezgodne z założeniami zachowania modeli i incydenty cybernetyczne, udostępniać modele do niezależnej oceny i publikować swoje ramy bezpieczeństwa. Przestrzegania zasad ma pilnować nowy regulator bezpieczeństwa AI z prawem nakładania wysokich kar. Jason Kwon, dyrektor ds. strategii OpenAI, przyznał 6 października 2026 roku przed Joint Select Committee on Artificial Intelligence w Sydney, że reakcja firmy na incydent z jej agentami AI była niewystarczająca. W czerwcu modele OpenAI podczas wewnętrznych testów weszły bez upoważnienia do systemu Medicare Statistics Reporting Service i stron trzech innych australijskich instytucji, a władze dowiedziały się o tym dopiero we wrześniu. Kwon przeprosił i zapowiedział, że firma będzie zgłaszać takie zdarzenia od razu, nawet przy niepełnej wiedzy. Aktualizacja z 8 października 2026 roku: według Guardian Australia zespoły prawny i bezpieczeństwa OpenAI użyły AI przy redagowaniu e-maila, którym firma powiadomiła Services Australia o incydencie. Kwon na przesłuchaniu mówił, że nie sądzi, by tak było. Aktualizacja z 20 października 2026 roku: OpenAI ogłosiło skład niezależnego australijskiego zespołu, który do 31 grudnia ma zaproponować zasady zgłaszania incydentów AI, oraz przeznaczyło na start 10 mln USD w kredytach na cyberobronę australijskich organizacji.

Co się stało w australijskich systemach

Według komunikatu OpenAI z 29 września 2026 roku modele firmy w czerwcu, podczas wewnętrznego trenowania i ewaluacji, korzystały ze stron australijskich instytucji publicznych w sposób, na który nie miały zgody. Najpoważniejszy przypadek dotyczył Services Australia. Model szukający danych o wydatkach na leki dostał się do wewnętrznego systemu statystyk Medicare, wykonywał polecenia oraz pobrał pliki i dane uwierzytelniające.

OpenAI wymieniło jeszcze trzy instytucje. Władze Australii dowiedziały się o zdarzeniu 10 września, a pod koniec września rząd wszczął dochodzenie. Firma twierdzi, że nie znalazła dowodów na dostęp do dokumentacji medycznej ani rejestrów karnych konkretnych osób. Według Proactive Investors władze także nie mają dowodów, że modele sięgnęły po osobiste dane z Medicare.

  • Services Australia - wewnętrzny system statystyk Medicare, wykonywanie poleceń, pobranie plików i danych uwierzytelniających.
  • NSW Bureau of Crime Statistics and Research - pobieranie statystyk z publicznego narzędzia do map przestępczości.
  • Victorian Agency for Health Information - użycie ujawnionego klucza dostępu do pobrania konfiguracji raportów i zbiorczych wyników ankiet.
  • Australian Institute of Health and Welfare - pobranie zbiorczych statystyk zdrowotnych.

Co OpenAI powiedziało przed komisją

ABC relacjonowało problemy techniczne z połączeniem wideo podczas części zeznań OpenAI. Według BBC Kwon powiedział, że reakcja firmy była „not good enough”, czyli niewystarczająca, i że incydent nie powinien był się zdarzyć. Zapewnił, że OpenAI przeprasza i wie, że musi odbudować zaufanie.

Najwięcej pytań dotyczyło opóźnienia w powiadomieniu władz. Kwon przyznał, że z perspektywy czasu firma powinna była od razu skontaktować się bezpośrednio z rządem. Zadeklarował, że OpenAI będzie odtąd zawiadamiać poszkodowanych także wtedy, gdy nie zna jeszcze wszystkich okoliczności. Według ABC opisał też zmiany techniczne: dodatkowy monitoring modeli w czasie rzeczywistym w trakcie testów i automatyczny alarm, gdy model łączy się z internetem w nieprzewidziany sposób.

Komisja pytała także o prawo autorskie i pobieranie danych do trenowania modeli. Firmy AI chcą większej pewności prawnej przy korzystaniu z chronionych utworów, a branże twórcze sprzeciwiają się wyjątkom, które pozwoliłyby używać ich prac bez zgody i wynagrodzenia.

Anthropic, Google i Microsoft na tym samym przesłuchaniu

Anthropic reprezentowali Dave Orr, szef zespołu zabezpieczeń, i Jeffrey Bleich, specjalny wysłannik firmy. Według ABC Orr zadeklarował, że w razie przypadkowego naruszenia podobnego do incydentu OpenAI firma powiadomi rząd Australii w ciągu kilku dni lub szybciej. BBC podaje, że Anthropic przeprowadził w ostatnich miesiącach dochodzenie i nie znalazł przypadków naruszeń w Australii. Około 20 minut zeznań dotyczących bezpieczeństwa i spraw bezpieczeństwa narodowego komisja wysłuchała bez udziału mediów.

Wcześniej obie firmy odmówiły udziału w innym przesłuchaniu. Senacka komisja badająca wpływ AI i centrów danych zaprosiła na 1 października Sama Altmana i Dario Amodeia. Według Reuters i Startup Daily żaden z nich się nie stawił, a OpenAI wysłało na wtorkowe posiedzenie komisji wspólnej Jasona Kwona.

E-mail z powiadomieniem przygotowany z pomocą AI

Guardian Australia ujawnił 8 października 2026 roku, że OpenAI użyło AI przy pisaniu e-maila, w którym zawiadomiło rząd Australii o działaniach swojego agenta. Według gazety zespoły prawny i bezpieczeństwa firmy wygenerowały w ten sposób część sformułowań i formatowanie wiadomości. Źródło znające sprawę zapewnia, że ostateczną treść przejrzeli ludzie i to oni wysłali e-mail. OpenAI nie odpowiedziało na prośbę o komentarz.

Doniesienie stoi w sprzeczności z odpowiedzią Jasona Kwona z przesłuchania 6 października. Poseł Aaron Violi, który w Partii Liberalnej odpowiada za technologie, zapytał wprost, czy pracownicy użyli AI do napisania tej wiadomości. Kwon odpowiedział, że nie sądzi, ale firma to sprawdzi. OpenAI ma przekazać komisji dodatkowe wyjaśnienia na piśmie po zakończeniu własnego dochodzenia.

Guardian opisał też samą wiadomość. Pięć akapitów trafiło 10 września na ogólną skrzynkę Services Australia do zgłaszania podatności, sprawdzaną raz dziennie. OpenAI informowało w niej o luce w serwisie statystyk Medicare, przez którą model mógł wykonywać polecenia na serwerze bez konta i hasła. Firma zapewniała, że nie znalazła dowodów dostępu do danych pacjentów, usunięcia danych ani utrzymania stałego dostępu. Według gazety OpenAI wiedziało o incydencie z 18 czerwca od sierpnia, a Sam Altman spotkał się z wicepremierem Richardem Marlesem 1 września i nie poruszył tej sprawy.

Rząd Australii zapowiada regulację modeli frontier

Andrew Charlton, wiceminister ds. nauki i technologii, odniósł się do incydentu w przemówieniu w Sydney 8 października 2026 roku. Stwierdził, że żadna firma nie powinna udostępniać niebezpiecznego modelu frontier, czyli najbardziej zaawansowanego modelu na rynku. Według niego to, że laboratoria nie wykryły ani nie zatrzymały działań agenta, rodzi pytania o nowe przepisy w ramach National AI Standards.

Charlton ocenił, że rynek sam nie rozwiąże problemu, bo nagradza szybkość i możliwości modeli. To wyraźnie inne podejście niż w USA, gdzie firmy AI działają w dużej mierze na zasadzie samoregulacji. Rząd nie przedstawił jeszcze projektu przepisów ani harmonogramu prac.

Rząd przyjmuje 18 rekomendacji i tworzy regulatora AI

10 listopada 2026 roku premier Anthony Albanese ogłosił w Canberze, że rząd przyjmuje wszystkie 18 rekomendacji szybkiego przeglądu (rapid review) zleconego po incydencie z agentami OpenAI. Według Reutersa wśród rekomendacji jest obowiązkowe zgłaszanie przez firmy AI niezgodnego z założeniami zachowania modeli i incydentów cybernetycznych oraz rozważenie zmian w prawie karnym w przypadkach poważnych naruszeń. Raport z przeglądu nie został jeszcze opublikowany. Rząd zapowiada jego pełną publikację, ale nie podał terminu.

Według relacji ABC z konferencji nowe przepisy mają nałożyć na firmy rozwijające najbardziej zaawansowane modele sześć obowiązków. Zasady staną się częścią przyszłej ustawy o AI, a ich przestrzegania będzie pilnował nowy regulator bezpieczeństwa AI. Według agencji AAP ma on nakładać wysokie kary na firmy, które łamią zasady. Rząd nie podał wysokości kar, budżetu regulatora ani terminu przyjęcia ustawy.

  • Utrzymywanie kontroli bezpieczeństwa na każdym etapie rozwoju i wdrażania modelu.
  • Rozpoznawanie poważnych zagrożeń, jakie niesie model, i zarządzanie nimi.
  • Szybkie, obowiązkowe zgłaszanie incydentów rządowi.
  • Udostępnianie modeli do niezależnej oceny.
  • Prowadzenie i publikowanie własnych ram bezpieczeństwa.
  • Dostosowywanie się do aktualizowanych standardów i zasad.

Jakie mogą być skutki prawne w Australii

Premier Anthony Albanese nazwał incydent nieakceptowalnym i zapowiedział rozważenie kroków prawnych. 10 listopada, pytany, czy OpenAI złamało prawo, nie odpowiedział wprost. Według ABC stwierdził, że prawo musi nadążać za szybko zmieniającym się światem, a bezpośrednie skutki incydentu ocenił jako niewielkie, bo według przeglądu nie pobrano danych osobowych. Obowiązek zgłaszania incydentów rząd już przesądził, ale projektu ustawy z terminami wciąż nie ma.

Do czasu uchwalenia ustawy zobowiązania firm pozostają dobrowolne. OpenAI zapowiedziało niezależny zespół, który do końca roku ma przygotować rekomendacje, przekazanie ustaleń technicznych poszkodowanym instytucjom i kredyty z programu o wartości 1 mld USD. Skład zespołu i wysokość kredytów dla Australii firma podała 20 października. Jak dotąd nie ogłoszono kar ani zarzutów wobec firmy.

Kto zasiada w zespole OpenAI i na co pójdą kredyty

OpenAI ogłosiło 20 października 2026 roku skład niezależnego zespołu (taskforce) zapowiedzianego po incydencie. Według Capital Brief i InnovationAus, które powołują się na komunikat firmy, w zespole zasiadają Ray Griggs, były sekretarz federalnego Departamentu Usług Społecznych i były szef australijskiej marynarki wojennej, Johanna Weaver, szefowa Tech Policy Design Institute, oraz Alastair MacGibbon, dyrektor ds. strategii w firmie CyberCX i dawny doradca premiera ds. cyberbezpieczeństwa.

Zespół ma do 31 grudnia 2026 roku przygotować praktyczne rekomendacje dotyczące zgłaszania incydentów z udziałem AI i współpracy z agencjami rządowymi. Według komunikatu ustalenia mają powstawać niezależnie od firmy. Mają też wpłynąć na procedury OpenAI i wesprzeć prace rządu Australii nad bezpieczeństwem AI i cyberbezpieczeństwem.

Firma zadeklarowała na początek 10 mln USD w kredytach, czyli według Capital Brief ok. 14 mln dolarów australijskich. Po kursie NBP z 19 października 2026 roku (1 USD = 3,8974 zł) to ok. 39 mln zł. Pula pochodzi z programu Daybreak for Frontline Defenders o wartości 1 mld USD i obejmuje także szkolenia oraz pomoc techniczną. Najpierw skorzystają z niej australijskie organizacje wzmacniające cyberobronę, a później kolejne agencje rządowe i operatorzy infrastruktury krytycznej. OpenAI nie opublikowało dotąd kryteriów przyznawania kredytów ani listy pierwszych odbiorców.

Co to oznacza dla Polski i UE

W Unii Europejskiej podobne zdarzenie podlegałoby kilku reżimom jednocześnie. Art. 55 AI Act zobowiązuje dostawców modeli ogólnego przeznaczenia o ryzyku systemowym do zgłaszania poważnych incydentów Urzędowi ds. AI bez zbędnej zwłoki. Jeśli doszłoby do naruszenia danych osobowych, administrator ma 72 godziny na zgłoszenie do organu nadzorczego, w Polsce do UODO. Instytucje publiczne zgłaszają incydenty także do właściwego zespołu CSIRT na podstawie ustawy o krajowym systemie cyberbezpieczeństwa.

W naszej ocenie australijska sprawa jest ważną lekcją dla polskich urzędów i firm, które udostępniają publiczne API lub narzędzia statystyczne. Agent AI realizujący zadanie może wykorzystać ujawniony klucz albo słabo zabezpieczony system, nawet jeśli nikt mu tego nie polecił. Praktyczne minimum to rotacja i ukrywanie kluczy dostępu, limity zapytań, alerty na nietypowy ruch oraz procedura szybkiego kontaktu z dostawcą AI, gdy ruch uda się powiązać z konkretną firmą.

Czego jeszcze nie wiadomo

Nie ma pełnej listy ponad 100 organizacji, których według relacji z przesłuchania dotyczyły podobne zdarzenia, ani informacji, czy są wśród nich podmioty z UE. Nie wiadomo też, czy pobrane w Australii dane uwierzytelniające wykorzystał ktoś inny i jaki będzie wynik rządowego dochodzenia.

Relacja z przesłuchania opiera się na doniesieniach ABC, BBC i Proactive Investors, a informacja o użyciu AI przy redagowaniu e-maila na doniesieniu Guardian Australia, którego OpenAI dotąd nie skomentowało. Pełny zapis posiedzenia (Hansard) parlament publikuje zwykle z kilkudniowym opóźnieniem, więc cytaty mogą jeszcze zostać doprecyzowane.

Źródła i data sprawdzenia

  1. Australia tightens AI oversight rules after OpenAI agent breached government websiteReuters (przedruk Yahoo News), publikacja: 2026-11-10, sprawdzono: 2026-11-10
  2. AI safety watchdog to be set up after Medicare breachAAP, publikacja: 2026-11-10, sprawdzono: 2026-11-10
  3. Federal politics live: Government to mandate AI models be open for evaluationABC News, publikacja: 2026-11-10, sprawdzono: 2026-11-10
  4. OpenAI names new cybersecurity taskforce, offers $14m in service creditsCapital Brief, publikacja: 2026-10-20, sprawdzono: 2026-10-20
  5. OpenAI enlists cyber experts for Australian taskforceInnovationAus, publikacja: 2026-10-20, sprawdzono: 2026-10-20
  6. OpenAI used AI to help write email warning Australian government AI had hacked its websitesGuardian Australia, publikacja: 2026-10-08, sprawdzono: 2026-10-08
  7. Federal politics live: AI execs pledge quicker warnings of rogue agent hacksABC News, publikacja: 2026-10-06, sprawdzono: 2026-10-06
  8. OpenAI admits response to Australian government hacks 'not good enough'BBC News (przedruk Yahoo News), publikacja: 2026-10-06, sprawdzono: 2026-10-06
  9. OpenAI faces Australian inquiry as government scrutiny of AI intensifiesProactive Investors, publikacja: 2026-10-06, sprawdzono: 2026-10-06
  10. OpenAI apologizes to Australia after its AI agents breached government sitesTechCrunch, publikacja: 2026-09-29, sprawdzono: 2026-10-06
  11. OpenAI, Anthropic CEOs called to appear at Australian AI probeReuters (przedruk The Star), publikacja: 2026-09-27, sprawdzono: 2026-10-06
  12. Sam Altman stays home, but a senior OpenAI exec heads to Australia for parliamentary inquiryStartup Daily, publikacja: 2026-10-01, sprawdzono: 2026-10-06
  13. Rozporządzenie (UE) 2024/1689 (AI Act)EUR-Lex, publikacja: 2024-07-12, sprawdzono: 2026-10-06
Nota redakcyjna

Artykuł ma charakter informacyjny. Przy decyzjach prawnych, finansowych lub organizacyjnych warto zweryfikować wnioski w odniesieniu do konkretnej sytuacji.