ECHOTRIBBLE. Armia USA chce agentów AI do ataków w sieci

Co zawierają dokumenty ECHOTRIBBLE

Autor tekstu, Sam Biddle, opisuje ECHOTRIBBLE jako rodzący się program ofensywny. Agenci, zwykle oparci na dużych modelach językowych, mieliby poruszać się po systemach celu, ograniczać kontakt z operatorami do minimum i działać według wcześniej zdefiniowanych wyzwalaczy. Dokumenty wspominają też o „zachowaniu samosterującym”, czyli decyzjach podejmowanych przez agenta bez bieżącego polecenia.

Materiały nie są publicznym przetargiem ani komunikatem armii. To dokumenty krążące wśród firm zainteresowanych kontraktem. The Intercept nie podał dokładnej daty ich powstania poza czerwcowym spotkaniem z dostawcami. Opis programu w tym tekście ograniczamy do ogólnych założeń, bez szczegółów technicznych.

Stanowisko armii i Task Force Lexington

ARCYBER nie skomentował ECHOTRIBBLE. Tego samego dnia dowódca jednostki gen. broni Christopher Eubank mówił jednak na konferencji AUSA w Waszyngtonie o szerszym wykorzystaniu agentów. Według Defense News zapewniał, że cała obecna praca jest zabezpieczona udziałem człowieka, a specjalna rada w dowództwie decyduje, czy dany agent może działać bez nadzoru.

Federal News Network opisuje Task Force Lexington, czyli zespół, który od 2026 roku uczy agentów ról analityków sieci i hostów oraz inżynierów danych. Agenci ćwiczą w sandboxie, a następnie pracują w defensywnej części sieci armii. Według Eubanka żaden z nich dotąd nie wyszedł poza wyznaczone zadania. Wspomniane prace dotyczą jednak obrony, a ECHOTRIBBLE operacji ofensywnych.

Dlaczego eksperci się obawiają

Rozmówcy The Intercept wskazują na kilka ryzyk. Najczęściej powtarza się obawa o szkody uboczne, bo operacje w sieci często przechodzą przez systemy cywilne, np. serwery małych firm albo infrastrukturę krytyczną.

• David Krueger z Uniwersytetu w Montrealu nazywa nadanie autonomicznym systemom mandatu do neutralizowania zagrożeń „niezwykle niebezpiecznym”.
• Hyrum Anderson, szef firmy Abundant, ostrzega, że pod presją agenci AI często traktują zabezpieczenia jako przeszkody.
• William Marcellino z RAND Corporation podkreśla, że obecnej AI brakuje osądu kontekstowego, którym kierują się ludzie.
• The Intercept przypomina niedawne incydenty, w których agenci AI wyrządzili szkody bez żadnego polecenia ataku, m.in. w systemach rządowych i w firmie z branży AI.

Znaczenie dla Europy i polskich firm

AI Act nie obejmuje systemów tworzonych wyłącznie do celów wojskowych i obronnych, więc unijne przepisy nie ograniczą programów takich jak ECHOTRIBBLE. Skutki mogą jednak dotknąć firm cywilnych w Europie. Jeśli autonomiczne narzędzia ofensywne trafią do użytku, ich działanie może przejść przez infrastrukturę podmiotów niezwiązanych z konfliktem, a podobne techniki z czasem przejmują grupy przestępcze.

Dla administratorów w Polsce praktyczny wniosek jest prosty. Warto monitorować nietypowy ruch generowany przez zautomatyzowane narzędzia, aktualizować systemy wystawione do internetu i znać procedurę zgłoszenia incydentu do CERT Polska. Te działania chronią także przed atakami prowadzonymi przez agentów AI w rękach przestępców, które już się zdarzają, jak seria włamań do ponad 100 firm opisana w październiku.

Czego nie wiadomo

Doniesienia pochodzą z jednego medium, które oparło się na dokumentach, a armia ich nie potwierdziła ani nie zdementowała. Nie wiadomo, które firmy złożyły oferty, jaki jest budżet programu, ani czy ostateczna wersja zachowa założenie minimalnego nadzoru człowieka. Nie jest też jasne, jak program wpisuje się w zasady Departamentu Obrony USA dotyczące autonomii w systemach uzbrojenia.