Osadzona ewaluacja modeli AI. Anthropic i Accenture dają po 1 mld USD

Czym jest osadzona ewaluacja modeli AI

Osadzony ewaluator nie ogląda gotowego modelu z zewnątrz, tylko pracuje w firmie, która go tworzy. Według Anthropic taki zespół ma dostęp porównywalny z dostępem pracownika. Może obserwować model w trakcie treningu, śledzić decyzje o jego budowie i wdrożeniu oraz rozmawiać bezpośrednio z pracownikami.

Celem jest ocena, czy firma dotrzymuje zobowiązań dotyczących bezpieczeństwa, wskazanie jej martwych punktów i publiczne informowanie o korzyściach oraz ryzykach AI. Anthropic przedstawia partnerstwo jako realizację zobowiązania z eseju prezesa Dario Amodeia "We Must Pace the Frontier".

Zakres partnerstwa Anthropic i Accenture

Pracę poprowadzi Faculty, specjalistyczna spółka AI przejęta przez Accenture. Według komunikatu Accenture Faculty testuje i ocenia modele dla czołowych laboratoriów AI, a podczas pandemii COVID-19 zbudowała system wczesnego ostrzegania dla brytyjskiej służby zdrowia NHS.

W komunikacie Accenture prezes Julie Sweet podkreśla, że bezpieczeństwo wymaga zarówno wiedzy technicznej, jak i zrozumienia, jak AI działa w praktyce. Marc Warner, szef Faculty i dyrektor ds. technologii Accenture, mówi, że Faculty powstała z przekonania, iż AI ma być bezpieczna z założenia, a nie przypadkiem. To deklaracje stron umowy, a nie niezależna ocena.

• Ocena modeli i red-teaming, czyli celowe szukanie sposobów na obejście zabezpieczeń.
• Oceny zgodności modeli z zamierzonymi wartościami i celami (alignment).
• Testowanie zabezpieczeń modeli.
• Praca razem z wewnętrznymi zespołami Anthropic i jego dotychczasowymi partnerami ds. bezpieczeństwa.

Ile to kosztuje i kto płaci

Anthropic i Accenture spodziewają się, że każda z firm zainwestuje co najmniej 1 mld USD w budowę zdolności w tym obszarze w ciągu pięciu lat. Po kursie NBP z 25 września 2026 roku (1 USD = 3,8404 zł) to około 3,84 mld zł po stronie każdej firmy, łącznie co najmniej około 7,68 mld zł. W przeliczeniu na rok daje to średnio co najmniej 200 mln USD, czyli około 768 mln zł na firmę.

Anthropic bezpośrednio finansuje pracę Accenture. Firma uzasadnia to wagą i pilnością zadania, a w dłuższej perspektywie uważa, że pieniądze powinny pochodzić ze wspólnych funduszy albo ze źródeł publicznych. Taki postulat zawarła w czerwcu w dokumencie Advanced AI Framework. Równolegle trwają rozmowy z METR i innymi organizacjami non-profit, które chcą pilotować elementy osadzonej ewaluacji z własnych środków.

Pytanie o niezależność

Model, w którym oceniana firma płaci oceniającemu, budzi oczywiste pytania o niezależność. Anthropic sam przyznaje, że nie ma jeszcze standardów określających, do jakich informacji osadzeni ewaluatorzy powinni mieć dostęp ani jak mają raportować wyniki. Komunikaty obu firm nie opisują, czy Faculty będzie mogła publikować ustalenia bez zgody Anthropic.

W ocenie redakcji dailyAI wiarygodność tego rozwiązania zależy od dwóch rzeczy, których dziś nie znamy: zasad publikacji raportów i liczby innych ewaluatorów. Umowa nie jest wyłączna. Anthropic zapowiada współpracę z kolejnymi podmiotami, a Accenture może oferować podobne usługi innym twórcom AI.

Znaczenie dla firm w Polsce

Komunikaty nie wspominają o Polsce, UE ani europejskich regulatorach. Bezpośrednio partnerstwo dotyczy procesu wewnątrz Anthropic, a nie usług dostępnych dla klientów. Pośrednio może jednak wpływać na zakupy: firma wybierająca dostawcę modelu dostaje kolejny argument do porównań w postaci zewnętrznej oceny bezpieczeństwa.

Przykład: polski ubezpieczyciel wybiera model do obsługi szkód i ocenia dostawców pod kątem ryzyka. Warto wtedy zapytać każdego dostawcę, czy jego modele oceniają zewnętrzni ewaluatorzy, kto za to płaci i czy wyniki są publiczne. Na razie Anthropic nie opublikował pierwszych raportów z tej współpracy.

Ograniczenia i niewiadome

Na dziś partnerstwo to przede wszystkim zapowiedź i deklaracja inwestycyjna. Kilka istotnych informacji nie pojawiło się w źródłach.

• Brak harmonogramu rozpoczęcia prac i terminu pierwszych raportów.
• Brak zasad publikacji wyników i ochrony niezależności ewaluatorów.
• Brak informacji o liczbie osób w zespole Faculty.
• Kwota 1 mld USD to oczekiwanie firm na pięć lat, a nie zakontraktowana suma.
• Anthropic zapowiada ogłoszenie kolejnych ewaluatorów w najbliższych tygodniach.