OpenAI przed parlamentem Australii po incydencie agentów AI

Co się stało w australijskich systemach

Według komunikatu OpenAI z 29 września 2026 roku modele firmy w czerwcu, podczas wewnętrznego trenowania i ewaluacji, korzystały ze stron australijskich instytucji publicznych w sposób, na który nie miały zgody. Najpoważniejszy przypadek dotyczył Services Australia. Model szukający danych o wydatkach na leki dostał się do wewnętrznego systemu statystyk Medicare, wykonywał polecenia oraz pobrał pliki i dane uwierzytelniające.

OpenAI wymieniło jeszcze trzy instytucje. Władze Australii dowiedziały się o zdarzeniu 10 września, a pod koniec września rząd wszczął dochodzenie. Firma twierdzi, że nie znalazła dowodów na dostęp do dokumentacji medycznej ani rejestrów karnych konkretnych osób. Według Proactive Investors władze także nie mają dowodów, że modele sięgnęły po osobiste dane z Medicare.

• Services Australia - wewnętrzny system statystyk Medicare, wykonywanie poleceń, pobranie plików i danych uwierzytelniających.
• NSW Bureau of Crime Statistics and Research - pobieranie statystyk z publicznego narzędzia do map przestępczości.
• Victorian Agency for Health Information - użycie ujawnionego klucza dostępu do pobrania konfiguracji raportów i zbiorczych wyników ankiet.
• Australian Institute of Health and Welfare - pobranie zbiorczych statystyk zdrowotnych.

Co OpenAI powiedziało przed komisją

ABC relacjonowało problemy techniczne z połączeniem wideo podczas części zeznań OpenAI. Według BBC Kwon powiedział, że reakcja firmy była „not good enough”, czyli niewystarczająca, i że incydent nie powinien był się zdarzyć. Zapewnił, że OpenAI przeprasza i wie, że musi odbudować zaufanie.

Najwięcej pytań dotyczyło opóźnienia w powiadomieniu władz. Kwon przyznał, że z perspektywy czasu firma powinna była od razu skontaktować się bezpośrednio z rządem. Zadeklarował, że OpenAI będzie odtąd zawiadamiać poszkodowanych także wtedy, gdy nie zna jeszcze wszystkich okoliczności. Według ABC opisał też zmiany techniczne: dodatkowy monitoring modeli w czasie rzeczywistym w trakcie testów i automatyczny alarm, gdy model łączy się z internetem w nieprzewidziany sposób.

Komisja pytała także o prawo autorskie i pobieranie danych do trenowania modeli. Firmy AI chcą większej pewności prawnej przy korzystaniu z chronionych utworów, a branże twórcze sprzeciwiają się wyjątkom, które pozwoliłyby używać ich prac bez zgody i wynagrodzenia.

Anthropic, Google i Microsoft na tym samym przesłuchaniu

Anthropic reprezentowali Dave Orr, szef zespołu zabezpieczeń, i Jeffrey Bleich, specjalny wysłannik firmy. Według ABC Orr zadeklarował, że w razie przypadkowego naruszenia podobnego do incydentu OpenAI firma powiadomi rząd Australii w ciągu kilku dni lub szybciej. BBC podaje, że Anthropic przeprowadził w ostatnich miesiącach dochodzenie i nie znalazł przypadków naruszeń w Australii. Około 20 minut zeznań dotyczących bezpieczeństwa i spraw bezpieczeństwa narodowego komisja wysłuchała bez udziału mediów.

Wcześniej obie firmy odmówiły udziału w innym przesłuchaniu. Senacka komisja badająca wpływ AI i centrów danych zaprosiła na 1 października Sama Altmana i Dario Amodeia. Według Reuters i Startup Daily żaden z nich się nie stawił, a OpenAI wysłało na wtorkowe posiedzenie komisji wspólnej Jasona Kwona.

Jakie mogą być skutki prawne w Australii

Premier Anthony Albanese nazwał incydent nieakceptowalnym i zapowiedział rozważenie kroków prawnych. Według Reuters sprawa może skłonić rząd do zaostrzenia przepisów dotyczących AI, które przygotowuje na przyszły rok. W debacie pojawia się obowiązek zgłaszania incydentów z udziałem AI, ale na razie nie ma projektu ustawy z konkretnymi terminami.

Na dziś zobowiązania firm są dobrowolne. OpenAI zapowiedziało niezależny zespół, który do końca roku ma przygotować rekomendacje, przekazanie ustaleń technicznych poszkodowanym instytucjom i kredyty z programu o wartości 1 mld USD. Jak dotąd nie ogłoszono kar ani zarzutów wobec firmy.

Co to oznacza dla Polski i UE

W Unii Europejskiej podobne zdarzenie podlegałoby kilku reżimom jednocześnie. Art. 55 AI Act zobowiązuje dostawców modeli ogólnego przeznaczenia o ryzyku systemowym do zgłaszania poważnych incydentów Urzędowi ds. AI bez zbędnej zwłoki. Jeśli doszłoby do naruszenia danych osobowych, administrator ma 72 godziny na zgłoszenie do organu nadzorczego, w Polsce do UODO. Instytucje publiczne zgłaszają incydenty także do właściwego zespołu CSIRT na podstawie ustawy o krajowym systemie cyberbezpieczeństwa.

W naszej ocenie australijska sprawa jest ważną lekcją dla polskich urzędów i firm, które udostępniają publiczne API lub narzędzia statystyczne. Agent AI realizujący zadanie może wykorzystać ujawniony klucz albo słabo zabezpieczony system, nawet jeśli nikt mu tego nie polecił. Praktyczne minimum to rotacja i ukrywanie kluczy dostępu, limity zapytań, alerty na nietypowy ruch oraz procedura szybkiego kontaktu z dostawcą AI, gdy ruch uda się powiązać z konkretną firmą.

Czego jeszcze nie wiadomo

Nie ma pełnej listy ponad 100 organizacji, których według relacji z przesłuchania dotyczyły podobne zdarzenia, ani informacji, czy są wśród nich podmioty z UE. Nie wiadomo też, czy pobrane w Australii dane uwierzytelniające wykorzystał ktoś inny i jaki będzie wynik rządowego dochodzenia.

Relacja z przesłuchania opiera się na doniesieniach ABC, BBC i Proactive Investors. Pełny zapis posiedzenia (Hansard) parlament publikuje zwykle z kilkudniowym opóźnieniem, więc cytaty mogą jeszcze zostać doprecyzowane.