OCC wydał ramy nadzoru nad AI i agentami AI w bankach

Co opublikował nadzór bankowy OCC

OCC to amerykański urząd przy Departamencie Skarbu, który nadzoruje banki krajowe i federalne oddziały banków zagranicznych. Nowy dokument, ogłoszony komunikatem prasowym nr 2026-97 i biuletynem 2026-54, jest skierowany do egzaminatorów, czyli inspektorów oceniających banki podczas kontroli. Ma 22 strony i obejmuje zastosowania AI w zwykłej działalności banku, od oceny kredytowej, płatności i wykrywania oszustw po obsługę klienta i operacje rynkowe.

Urząd podkreśla, że ramy mają wspierać ocenę ryzyka, a nie zastępować istniejących zasad. Jeśli bank używa AI, nadal obowiązują go reguły zarządzania ryzykiem modeli, technologią, zgodnością i ryzykiem operacyjnym. OCC zapowiada regularne aktualizacje dokumentu wraz z rozwojem technologii i uwagami rynku. Sam dokument, jak zaznacza urząd, przygotowano z pomocą AI, a następnie zredagował i zatwierdził człowiek.

Dlaczego OCC pisze o Super Intelligence

W dokumencie nie pada skrót AI, tylko SI od Super Intelligence. To skutek rozporządzenia wykonawczego prezydenta USA nr 14434, opublikowanego w rejestrze federalnym 2 października 2026 roku, które nakazało urzędom zmianę nazewnictwa. OCC w przypisie wyjaśnia, że SI oznacza te same technologie, które wcześniej obejmowało pojęcie sztucznej inteligencji w prawie federalnym. Podobnie zmienił nazwę segmentu AI w swoich wynikach SpaceX.

Dla czytelnika w Polsce oznacza to, że dokument dotyczy dzisiejszych modeli językowych i agentów AI, a nie hipotetycznych systemów przewyższających człowieka. Ramy odnoszą się przede wszystkim do AI generatywnej i agentowej. Klasyczne modele statystyczne podlegają wcześniejszym zasadom zarządzania ryzykiem modeli z biuletynu OCC 2026-13.

Sześć filarów i 16 obszarów kontroli

Naczelna zasada ram brzmi tak, że intensywność kontroli ma rosnąć wraz z potencjalnymi skutkami awarii lub nadużycia agenta AI. Liczy się to, co system może zrobić i jak bardzo człowiek go nadzoruje, a nie to, jak zaawansowana jest technologia. OCC podaje przykład, w którym prosty agent oparty na regułach, uprawniony do zlecania transakcji, może być groźniejszy niż zaawansowany model piszący wyłącznie wewnętrzne notatki.

Szesnaście obszarów kontroli urząd grupuje w sześciu filarach:

• Cel - jakie działania system lub agent może wykonywać, z jakich danych i narzędzi korzysta i kiedy musi przekazać sprawę człowiekowi.
• Ryzyko - jakie są skutki, jeśli wynik lub działanie systemu okaże się niewłaściwe, i czy da się je odwrócić.
• Kontrola - nadzór człowieka, rozszerzone zarządzanie ryzykiem modeli, dane, prywatność, zgodność z przepisami i cyberbezpieczeństwo.
• Nadzór - kto monitoruje system, kto za niego odpowiada i jak wyniki trafiają do zarządu.
• Odporność - wykrycie, zatrzymanie i naprawa błędów agenta przy zachowaniu ciągłości procesu.
• Zapewnienie jakości - testy, dokumentacja, audyt wewnętrzny i zarządzanie ryzykiem dostawców.

Nadzór człowieka ma być realny

OCC rozróżnia dwa modele nadzoru. Human-in-the-loop oznacza, że człowiek zatwierdza wynik lub działanie przed jego wykonaniem. Human-on-the-loop oznacza aktywne monitorowanie z uprawnieniem i realną możliwością przerwania pracy systemu. Urząd zwraca uwagę, że zatwierdzenie nie może sprowadzać się do formalnego kliknięcia, a duża liczba zgłoszeń i hurtowe akceptacje obniżają jakość kontroli.

Egzaminatorzy mają sprawdzać, czy osoba nadzorująca ma wiedzę, informacje i uprawnienia, aby odrzucić, zmienić lub zatrzymać działanie agenta. Ważna jest też rozpiętość nadzoru, czyli ile agentów, kont i alertów jedna osoba jest w stanie wiarygodnie śledzić. Po pomyłce, halucynacji lub naruszeniu zabezpieczeń bank może czasowo zwiększyć udział człowieka.

Agent działa, ale robi źle

Najwięcej uwagi ramy poświęcają agentom AI, które samodzielnie wykonują operacje. OCC zauważa, że w ich przypadku problemem jest także sytuacja, w której system działa bez przerwy, ale podejmuje niewłaściwe działania. Odporność operacyjna musi więc obejmować oba scenariusze. Bank powinien umieć takiego agenta wykryć i zatrzymać, na przykład dzięki limitom liczby operacji, wyłącznikom awaryjnym (kill switch), minimalnym uprawnieniom i regułom deterministycznym.

Jeśli błąd agenta dotknie klientów, bank może potrzebować osobnego procesu naprawczego. Obejmuje on ustalenie pełnej grupy poszkodowanych, ocenę szkody każdej osoby, korektę i niezależne sprawdzenie, że naprawa została zakończona. Dokument wymienia też ryzyko ze strony agentów zewnętrznych, na przykład systemów klientów lub fintechów, które łączą się z bankiem i zlecają operacje w ich imieniu.

Cztery przykładowe poziomy ryzyka

OCC proponuje ocenę każdego zastosowania według tych samych czynników, niezależnie od linii biznesowej. Są wśród nich skutki decyzji, odwracalność błędu, wpływ na klienta i finanse, poziom autonomii, wrażliwość danych, wyjaśnialność oraz pochodzenie systemu, czyli to, czy bank zbudował go sam, dostroił cudzy model, czy kupuje gotową usługę. Wynikiem jest poziom zbiorczy, który ma decydować o sile kontroli.

• Poziom 1, krytyczny - bezpośrednie działanie, mała odwracalność, duży wpływ, autonomia. Przykłady to autonomiczny agent płatniczy, decyzje kredytowe w czasie rzeczywistym, zwalnianie blokad podejrzanych transakcji i dostęp do rynku.
• Poziom 2, wysoki - działanie lub mocne wsparcie decyzji pod stałym monitoringiem człowieka. Przykłady to wsparcie oceny kredytowej, komunikaty do klientów wysyłane przez agenta, rozpatrywanie alertów przeciwdziałania praniu pieniędzy i asystent kodu zmieniający dostęp do danych.
• Poziom 3, umiarkowany - wsparcie decyzji z obowiązkowym zatwierdzeniem przez człowieka i odwracalnym skutkiem. Przykłady to streszczanie dokumentów do wniosków kredytowych i badania wspierane przez agenta.
• Poziom 4, niski - brak danych klientów i finansowych, brak bezpośrednich działań. Przykłady to wewnętrzne narzędzia biurowe, asystent programisty i ogólne pytania pracowników.

Dostawcy AI i cyberbezpieczeństwo

Ramy przypominają, że odpowiedzialność za ryzyko pozostaje po stronie banku, nawet jeśli model rozwija i utrzymuje zewnętrzna firma. Bank może określić w umowie, kto odpowiada za błędy modelu i szkody klientów, a także zażądać informacji, gdy dostawca dodaje funkcje AI do używanego już produktu. OCC sugeruje także własny słownik incydentów AI, obejmujący halucynacje, błędne działania, dryf modelu i manipulację, z terminami zgłoszeń.

W części o cyberbezpieczeństwie urząd wymienia ataki typowe dla AI, takie jak wstrzykiwanie poleceń (prompt injection), zatruwanie danych treningowych i wyciąganie informacji z modelu. Szerokie uprawnienia agenta są według OCC częścią powierzchni ataku. Tożsamości agentów, ich dane logowania i dzienniki zdarzeń bank powinien traktować podobnie jak konta uprzywilejowanych użytkowników.

Ograniczenia i niewiadome

Dokument jest ramą dla egzaminatorów, a nie nowym przepisem. Używa trybu przypuszczającego i przykładów, więc nie wiadomo jeszcze, jak rygorystycznie będzie stosowany w praktyce kontroli.

• Poziomy ryzyka są ilustracyjne. Bank może przyjąć własną metodę, jeśli prowadzi do porównywalnych wniosków.
• OCC nadzoruje tylko część amerykańskiego sektora. Banki stanowe i holdingi podlegają też Rezerwie Federalnej i FDIC, które nie wydały jeszcze podobnych ram.
• Ramy będą aktualizowane, a urząd nie podał harmonogramu kolejnych wersji ani terminu zbierania uwag.
• Dokument nie zmienia przepisów o ochronie konsumentów i przeciwdziałaniu praniu pieniędzy. AI nie zwalnia banku z żadnego z tych obowiązków.

Co to oznacza dla banków w Polsce

Polskich banków ramy OCC nie obowiązują, chyba że działają w USA jako banki krajowe lub oddziały nadzorowane przez ten urząd. Wskazują jednak kierunek, który widać także w UE. AI Act klasyfikuje ocenę zdolności kredytowej osób fizycznych jako system wysokiego ryzyka, a odpowiednie obowiązki mają zacząć obowiązywać 2 grudnia 2027 roku. Rozporządzenie DORA od stycznia 2025 roku wymaga zarządzania ryzykiem teleinformatycznym i dostawcami technologii, w tym dostawcami usług AI.

W naszej ocenie najbardziej przydatna dla polskich instytucji jest czterostopniowa skala ryzyka. Pozwala uporządkować rejestr zastosowań AI, którego wymagają już AI Act i nadzorcy w innych krajach, oraz oddzielić narzędzia biurowe od agentów wykonujących operacje na rachunkach klientów. Podobne podejście opisały wcześniej singapurski MAS i brytyjska FCA, a Urząd KNF w sierpniu 2026 roku zalecał uwzględnienie ataków wspieranych przez AI w testach odporności cyfrowej.

Od czego zacząć porządkowanie AI w banku

Ramy OCC można potraktować jako listę kontrolną dla zespołów ryzyka, zgodności i IT. Poniższe kroki wynikają bezpośrednio z dokumentu i nie zastępują analizy prawnej konkretnej instytucji.

1. Spisz wszystkie zastosowania AI z właścicielem, dostawcą, uprawnieniami i danymi, z których korzystają.
2. Dla każdego zastosowania określ, czy system tylko podpowiada, czy sam podejmuje decyzję albo wykonuje operację, i czy błąd da się cofnąć.
3. Ustal, kto i w jakim trybie nadzoruje agentów, oraz sprawdź, czy ta osoba ma realne uprawnienia do ich zatrzymania.
4. Przejrzyj umowy z dostawcami AI pod kątem odpowiedzialności za błędy, wykorzystania danych banku i informowania o zmianach modeli.
5. Przygotuj procedurę zatrzymania agenta i naprawy szkód klientów, a następnie ją przetestuj.