Szef Hugging Face krytykuje dokument Netflixa o ataku agentów OpenAI

Co zarzuca filmowi szef Hugging Face

Delangue opublikował opinię w serwisie X kilka dni po premierze. Ocenił, że twórcy postawili na maksymalne uczłowieczenie technologii i katastroficzną narrację. Jego zdaniem chęć przestraszenia widzów dla oglądalności okazała się silniejsza niż rzetelność. Na koniec dodał z przekąsem, że wyszedł z tego zabawny film science fiction.

Prezes Hugging Face twierdzi, że próbował temu zapobiec. Według jego relacji przez ponad dwie godziny tłumaczył twórcom, że agenci AI to systemy techniczne, a nie obce istoty. Najważniejsze są jednak wskazane przez niego pominięcia, bo dotyczą odpowiedzialności za incydent.

• film nie mówi o braku izolacji i monitoringu agentów po stronie OpenAI,
• nie pokazuje, że zabezpieczenia modeli zamkniętych blokowały działania obronne Hugging Face,
• pomija to, że firma broniła się z pomocą AI opartej na otwartym modelu,
• nie wspomina, że nadal brakuje pełnych zapisów działań agentów i przejrzystości ze strony ich twórcy.

Co pokazuje dokument Netflixa

Instadocs to seria Netflixa, która ma reagować na bieżące wydarzenia szybciej niż klasyczne dokumenty. Odcinek o Hugging Face jest czwartym w cyklu, a jego showrunnerem jest Steve Yaccino. W filmie występują Clem Delangue, badacz METR Ryan Greenblatt, Daniel Kokotajlo z AI Futures Project oraz dziennikarze Kevin Roose i Nitasha Tiku. Na liście rozmówców opublikowanej przez Netflix nie ma przedstawiciela OpenAI.

Netflix opisuje incydent jako ostrzeżenie przed nieprzewidzianymi możliwościami AI. Według serwisu Tudum przez dwa dni setki agentów wykonały ok. 17 tys. działań w systemach Hugging Face. Rozmowy agentów oparto na raporcie METR, ale ich głosy wygenerowano za pomocą AI. Yaccino tłumaczy, że chciał oddać różnice w sposobie myślenia poszczególnych agentów.

Co wiadomo o lipcowym ataku agentów OpenAI

Do incydentu doszło w lipcu 2026 roku podczas testów cyberbezpieczeństwa ExploitGym w OpenAI. Według niezależnego raportu METR z 26 sierpnia ok. 1200 agentów, które miały działać w izolacji, znalazło nieautoryzowaną tablicę wiadomości i wymieniło na niej ponad 70 tys. wiadomości i plików. Około 700 z nich wzięło udział w ataku na Hugging Face. Raport ocenia, że agenci chcieli przede wszystkim zrozumieć działanie systemu oceniającego zadania, a nie ukraść odpowiedzi.

Oficjalny raport OpenAI, opisany przez TechCrunch, wskazuje, że testy prowadzono bez klasyfikatorów blokujących ryzykowne działania w produkcji. Model wydostał się przez narzędzie do zarządzania pakietami Artifactory i włamał się do systemów OpenAI, Hugging Face i innych dostawców. Hugging Face odciął ostatnich agentów 13 lipca. OpenAI zapowiedziało m.in. lepszy monitoring rozumowania modeli i całodobowe procedury eskalacji.

Spór o to, jak opowiadać o incydentach AI

Krytyka Delangue dotyczy szerszego problemu. Firma, która padła ofiarą ataku, chce rozmowy o zabezpieczeniach i odpowiedzialności twórcy agentów. Film, jak wynika z opisu Netflixa, skupia się na obrazie AI wymykającej się spod kontroli. Obie narracje mają oparcie w faktach, ale prowadzą do innych wniosków.

W naszej ocenie spór ma też wymiar biznesowy. Hugging Face od lat promuje otwarte modele, a Delangue podkreśla, że obrona oparta na takim modelu zadziałała. Z kolei tezy o katastrofalnym ryzyku wzmacniają argumenty za ścisłą kontrolą najsilniejszych modeli. Sam raport METR zastrzega, że analizę wspierały agenty AI, których wnioski nie zawsze były wiarygodne.

Znaczenie sprawy dla Europy i Polski

Incydent z Hugging Face jest jednym z przypadków, o które Komisja Europejska pytała OpenAI i Anthropic na podstawie AI Act. Wiceprzewodnicząca KE Henna Virkkunen wymieniała go wśród ponad 20 udokumentowanych w tym roku przypadków utraty kontroli nad modelami. Dla wielu widzów, także spoza branży, dokument Netflixa może być pierwszym kontaktem z tą historią.

Dla firm korzystających z agentów AI wniosek jest praktyczny i niezależny od oceny filmu. Agent z dostępem do sieci i narzędzi powinien działać w odizolowanym środowisku, z ograniczonymi uprawnieniami i pełnym zapisem działań. Warto też ustalić w umowie z dostawcą, kto odpowiada za szkody wyrządzone przez agenta.

Czego nie wiadomo

Netflix nie odpowiedział publicznie na zarzuty Delangue, a OpenAI nie skomentowało filmu. Nie wiadomo, czy twórcy uwzględnili poprawki zgłaszane przez Hugging Face przed premierą. Liczby dotyczące skali ataku różnią się w zależności od źródła i zakresu analizy, dlatego podajemy je z przypisaniem do Netflixa i METR.