OpenAI i Hacktron szukają luk na styku usług i agentów AI

Na czym polega współpraca OpenAI z Hacktron

Inżynierowie OpenAI i badacze Hacktron będą razem wybierać obszary o wysokim priorytecie, a główny nacisk padnie na współdziałanie systemów firmy z usługami zewnętrznymi. OpenAI tłumaczy to tym, że agenci AI łączą usługi w nowy sposób, więc takie połączenia wymagają głębszych testów. Hacktron dostanie rozszerzony dostęp do modeli przez Daybreak Red.

Daybreak Red to część programu OpenAI z dostępem do modeli wyszkolonych do autoryzowanych testów bezpieczeństwa. Dostęp mają wyłącznie zatwierdzone osoby i organizacje. Komunikat nie podaje, których modeli dokładnie dotyczy rozszerzenie. Prezes Hacktron Zayne Zhang napisał w nim, że o przyszłości cyberbezpieczeństwa zdecyduje połączenie ludzkiej kreatywności z AI, a nie wielkość zespołu.

Co Hacktron znalazł wcześniej w systemach OpenAI

Podstawą współpracy jest zgłoszenie z lata. Według opisu Hacktron z września badacze połączyli 25 lipca dwie krytyczne luki, jedną w forum społecznościowym działającym na Discourse, a drugą w logowaniu jednokrotnym OpenAI. Zgodnie z ich relacją dało to dostęp do kont części pracowników w ChatGPT i Codex oraz do połączonych z nimi usług. Dla bezpieczeństwa pomijamy szczegóły techniczne, a obie strony wdrożyły już poprawki.

Badacze piszą, że zatrzymali się na nieszkodliwym pull requeście, czyli propozycji zmiany w wewnętrznym repozytorium, która miała udowodnić dostęp. Według ich osi czasu OpenAI potwierdziło poprawkę po około 14 godzinach, a Discourse przygotował swoją dwa dni po zgłoszeniu. Nagroda wyniosła 6,5 tys. USD, czyli około 25,6 tys. zł po kursie NBP z 6 listopada (1 USD = 3,9321 zł).

Część relacji pochodzi od samych autorów i serwisów, które ją omawiają. Według Techzine exploit powstał w ciągu kilku godzin z pomocą Claude Opus 5 od Anthropic, a Hacktron zaznacza, że praca nie była w pełni autonomiczna. W sprawdzonych źródłach nie znaleźliśmy własnego opisu tego zdarzenia przygotowanego przez OpenAI.

Dlaczego styk usług stał się priorytetem

Tradycyjny test sprawdza zwykle jedną aplikację, a sprawa Hacktron dotyczyła przejścia między kilkoma systemami. Forum wydaje się mało ważne, dopóki nie dzieli mechanizmu logowania z produktami, do których mają dostęp pracownicy. Agenci AI zwiększają liczbę takich połączeń, bo działają w repozytoriach, poczcie i narzędziach firmowych na uprawnieniach użytkownika.

Ruch OpenAI wpisuje się w szerszą serię działań. 10 sierpnia firma rozszerzyła Daybreak, a 2 listopada ogłosiła sprint bezpieczeństwa z udziałem Cathedral i wyższe nagrody w programie bug bounty. W naszej ocenie to także odpowiedź na presję wizerunkową, bo OpenAI sprzedaje modele do obrony i musi pokazać, że samo stosuje je u siebie.

Co mogą zrobić polskie firmy

Mechanizm opisany przez Hacktron nie jest specyficzny dla OpenAI, więc te same pytania można zadać we własnej firmie. Poniższa lista dotyczy firm, które spinają narzędzia wspólnym logowaniem albo podłączają agentów AI do repozytoriów i poczty.

1. Spisz wszystkie usługi korzystające z logowania jednokrotnego, także forum, helpdesk i narzędzia partnerów.
2. Sprawdź, czy słabsza usługa poboczna może przenieść sesję użytkownika do systemów krytycznych.
3. Nadaj konektorom agentów AI tylko niezbędne uprawnienia, osobno do odczytu i zapisu.
4. Włącz rejestrowanie działań agentów i przeglądaj operacje na repozytoriach.
5. Obejmij zlecane testy bezpieczeństwa także połączeniami między usługami, a nie każdą aplikacją osobno.

Czego nie wiadomo o umowie

OpenAI nie podało zakresu systemów, czasu współpracy, warunków finansowych ani tego, czy opublikuje wyniki testów. Nie wiadomo również, czy Hacktron dostanie dostęp do GPT-6 Cyber. Efekty będzie można ocenić dopiero po opisach znalezionych i naprawionych luk.