Anthropic ostrzega przed progiem samodoskonalenia AI

Co dokładnie napisano w prospekcie

Najważniejszy fragment znalazł się w części o ryzykach. Anthropic pisze, że coraz szersze użycie AI we własnych badaniach może sprawić, że możliwości modeli będą rosły szybciej niż zabezpieczenia, testy i mechanizmy kontroli. Firma przyznaje, że jej dowody na tempo tego przyspieszenia pochodzą głównie ze wskaźników opóźnionych, więc zmianę widać dopiero po fakcie.

Dalej pada zdanie, które zwróciło uwagę mediów. Według Anthropic wewnętrzne szacunki i oczekiwania wobec przyszłych modeli, a nie obecnych, wskazują, że firma może wkrótce spełnić definicję progu ze swojej polityki. Spółka dodaje, że ocenia dane źródłowe, analizuje skutki osiągnięcia progu zdolności w badaniach nad AI i opublikuje kolejne raporty.

Czym jest rekurencyjne samodoskonalenie AI

Rekurencyjne samodoskonalenie (RSI, recursive self-improvement) to sytuacja, w której system AI pomaga tworzyć lepsze systemy AI, a te z kolei przyspieszają prace nad następnymi. Zwolennicy widzą w tym szansę na skokowy wzrost tempa badań naukowych. Krytycy ostrzegają, że rozwój może wtedy wyprzedzić zdolność ludzi do sprawdzania i kontrolowania modeli.

Anthropic w prospekcie wprost łączy oba wątki. Firma pisze, że używanie AI do budowy bardziej zaawansowanej AI może stanowić poważne ryzyko, zwłaszcza jeśli gwałtownie przyspieszy postęp. Dodaje, że ten obszar reguluje jej Responsible Scaling Policy, czyli wewnętrzna polityka określająca progi możliwości modeli, po których przekroczeniu firma musi stosować silniejsze zabezpieczenia.

Zapowiedź zmian w polityce bezpieczeństwa

W opisie działalności Anthropic deklaruje, że nie przewiduje bezpiecznego wykorzystania Claude'a do w pełni autonomicznego projektowania i budowy kolejnych generacji modeli bez istotnego nadzoru i zrozumienia ze strony ludzi. Z tego powodu firma rozważa aktualizację Responsible Scaling Policy, aby ludzie zachowali kontrolę nad rozwojem najbardziej zaawansowanych modeli.

Prospekt nie podaje, jak miałyby wyglądać te zmiany ani kiedy zostaną ogłoszone. Nie ujawnia też, których przyszłych modeli dotyczą wewnętrzne szacunki. Zestawienie najważniejszych deklaracji wygląda następująco.

• Stan obecny - żaden model nie został uznany za przekraczający próg gwałtownego przyspieszenia rozwoju dzięki AI.
• Prognoza firmy - przyszłe modele mogą wkrótce spełnić definicję tego progu.
• Przyznanie się do opóźnienia - w przeszłości firma nie rozpoznała przyspieszenia, dopóki ono nie nastąpiło.
• Zapowiedź - kolejne raporty o skutkach osiągnięcia progu i możliwa zmiana Responsible Scaling Policy.
• Deklaracja - brak planów w pełni autonomicznej budowy kolejnych modeli przez Claude'a bez nadzoru ludzi.

Ostrzeżenie czy element marketingu

Zapis trzeba czytać w kontekście dokumentu, w którym się znalazł. Prospekt emisyjny ma chronić spółkę przed zarzutem zatajenia ryzyk, więc firmy wpisują do niego także scenariusze mało prawdopodobne. Komentatorzy cytowani przez TechCrunch zwracają uwagę, że deklaracja o zbliżaniu się do modeli zdolnych do rozwijania samych siebie może jednocześnie podkreślać przewagę technologiczną Anthropic przed debiutem.

W naszej ocenie najważniejsza jest inna informacja. Anthropic przyznał w dokumencie składanym pod rygorem odpowiedzialności prawnej, że jego narzędzia pomiaru tempa rozwoju są niedoskonałe i reagują z opóźnieniem. To konkretna wskazówka dla regulatorów, że deklaracje firm o bezpieczeństwie modeli warto weryfikować niezależnymi testami.

Co to oznacza w Unii Europejskiej

W UE od 2 sierpnia 2025 roku obowiązują przepisy AI Act dla modeli AI ogólnego przeznaczenia. Dostawcy modeli z ryzykiem systemowym muszą oceniać i ograniczać takie ryzyka, testować modele i zgłaszać poważne incydenty do Urzędu ds. AI przy Komisji Europejskiej. Anthropic w 2025 roku zadeklarował podpisanie unijnego kodeksu praktyk dla takich modeli.

Zapis z prospektu może więc stać się punktem odniesienia dla Urzędu ds. AI, który od sierpnia 2026 roku ma uprawnienia do egzekwowania obowiązków od dostawców modeli. Dla polskich firm korzystających z Claude'a zapis nie zmienia na razie niczego w praktyce. Warto jednak śledzić zapowiedziane raporty Anthropic i zmiany w Responsible Scaling Policy, bo mogą wpłynąć na tempo udostępniania nowych modeli.