Anthropic daje METR dostęp pracownika do oceny ryzyka AI

Co Anthropic udostępnił zespołowi METR

METR to organizacja non-profit, która ocenia możliwości i zagrożenia najbardziej zaawansowanych modeli AI. Wcześniej recenzowała już kilka raportów ryzyka Anthropic (Risk Reports), ale z zewnątrz. Teraz sześcioro jej pracowników dostało firmowe komputery, miejsce w biurze i dostęp do wewnętrznych narzędzi oraz systemów, który według Anthropic jest zbliżony do dostępu własnych zespołów oceny ryzyka.

Pracownicy Anthropic są zachęcani do dzielenia się z ewaluatorami informacjami. Wyjątki obejmują trzy kategorie: dane klientów, informacje objęte tajemnicą adwokacką oraz szczegóły architektury modeli. Firma tłumaczy, że architektura niesie wysokie ryzyko wycieku, a dla oceny bezpieczeństwa zwykle ma niewielkie znaczenie. Jeśli okaże się potrzebna, jej udostępnienie wymaga wyraźnej zgody wewnątrz firmy.

METR opublikuje analizę poziomu ryzyka, incydentów lub praktyk Anthropic. Firma nie może zablokować publikacji. Może zażądać usunięcia treści tylko w wąskich, określonych z góry kategoriach, a METR ma prawo opisać publicznie charakter usuniętych fragmentów i ocenić, czy żądanie było uzasadnione, bez ujawniania ich treści.

Trzy poziomy współpracy z ewaluatorami

Anthropic opisał trzystopniowy model, w którym zakres dostępu rośnie razem z prawem do publikacji. Poszczególne organizacje mogą zaczynać od niższego poziomu i przechodzić wyżej.

• poziom 1 - wąsko określone badanie ryzyka, zakres dostępu wyznacza Anthropic, a wyniki ukazują się tylko za zgodą firmy,
• poziom 2 - ewaluator dostaje więcej informacji i publikuje bez zgody Anthropic, firma może jedynie żądać usunięcia treści z określonych kategorii, a ewaluator może ocenić te żądania,
• poziom 3 - dostęp zbliżony do pracowniczego i prawa publikacji jak na poziomie 2, obecnie tylko zespół METR.

Kto jeszcze ocenia modele Anthropic

SecureBio, organizacja zajmująca się bezpieczeństwem biologicznym, pracuje na pierwszym poziomie. Recenzuje rozdział o broni chemicznej i biologicznej z raportu ryzyka Anthropic z sierpnia 2026 roku. W lutym 2026 roku przeprowadziła i opublikowała pilotażową recenzję wcześniejszego raportu. Anthropic zapowiada, że po zakończeniu tej pracy rozważy rozszerzenie jej dostępu.

Accenture i jej spółka Faculty, z którymi Anthropic ogłosił współpracę we wrześniu, pracują nad szerszym partnerstwem. Ma ono objąć ewaluację modeli i testy ataków (red teaming), ocenę dopasowania modeli do zamierzeń ludzi (alignment), sprawdzanie zabezpieczeń oraz budowę kompetencji w obu organizacjach. Hugging Face jest wymieniony wśród organizacji we wstępnych rozmowach, bez opisanej umowy.

Warunki niezależności według Anthropic

Firma podaje cztery wymagania, które jej zdaniem powinien spełniać zewnętrzny ewaluator. Anthropic przekonuje, że każde laboratorium rozwijające najbardziej zaawansowane modele powinno wprowadzić podobne rozwiązania.

• kompetencje w ocenie możliwości zaawansowanych modeli, także w rozpoznawaniu sytuacji, w których ewaluacja może zawieść, np. gdy model udaje dopasowanie do oczekiwań (alignment faking),
• niezależność, czyli brak udziałów w ocenianej firmie i brak zależności finansowej lub operacyjnej od niej,
• dostęp wystarczający do rzetelnej oceny ryzyka, w tym do szczegółów treningu i działania zabezpieczeń,
• swoboda publikowania obserwacji i ocen.

Ograniczenia i pytania o niezależność

Model ma wyraźne granice. To Anthropic decyduje, która organizacja trafi na który poziom, a na pierwszym poziomie wyniki ukazują się wyłącznie za zgodą firmy. Komunikat nie podaje też, jak długo potrwa współpraca z METR ani kiedy ukaże się pierwsza analiza. Wyłączenie architektury modeli oznacza, że część decyzji technicznych pozostanie poza zasięgiem ewaluatorów, chyba że firma zgodzi się na wyjątek.

Anthropic zastrzega, że ewaluatorzy mogą pracować również dla innych firm, dlatego zespół METR objęty umową działa w separacji od pozostałych pracowników organizacji, także tych, którzy współpracują z Anthropic przy innych projektach. Firma podkreśla, że rozwiązanie nie daje innym podmiotom dostępu do jej informacji ani danych klientów i partnerów.

W naszej ocenie najważniejsze jest prawo do publikacji bez weta. Bez niego dostęp, nawet szeroki, nie daje opinii publicznej żadnej dodatkowej wiedzy. Wartość programu da się jednak ocenić dopiero po pierwszym raporcie METR i po tym, jak często Anthropic będzie żądał usunięcia treści. Warto pamiętać, że od lata amerykańska FTC prowadzi postępowanie dotyczące ryzyk AI, które obejmuje zarówno Anthropic, jak i METR.

Co to oznacza w Unii Europejskiej i w Polsce

W UE ocena modeli przestała być wyłącznie dobrowolna. Od 2 sierpnia 2025 roku AI Act zobowiązuje dostawców modeli ogólnego przeznaczenia z ryzykiem systemowym do ewaluacji modeli, w tym testów kontradyktoryjnych, oceny i ograniczania ryzyk systemowych oraz zgłaszania poważnych incydentów do Urzędu ds. AI. Akt nie nakazuje jednak wpuszczania zewnętrznych ewaluatorów do firmy na zasadach opisanych przez Anthropic.

Dla polskich firm korzystających z Claude publikacje METR i SecureBio mogą stać się dodatkowym, niezależnym materiałem przy ocenie dostawcy, na przykład w analizie ryzyka wymaganej przez wewnętrzne polityki bezpieczeństwa. Do czasu ich ukazania się jedynym opisem programu pozostaje komunikat samej firmy. Na co zwrócić uwagę w najbliższych miesiącach:

• pierwszą analizę METR i informację o liczbie oraz charakterze usuniętych fragmentów,
• wyniki recenzji SecureBio dotyczącej broni chemicznej i biologicznej,
• to, czy SecureBio, Accenture i Faculty przejdą na wyższe poziomy dostępu,
• czy podobne zasady wprowadzą inni sygnatariusze porozumienia z Białego Domu, m.in. OpenAI, Google i Meta.