Raport o Gemini 4 Argon. Ile kodu w Google DeepMind pisze AI

Co Google napisał o AI budującej AI

Raport Gemini 4 Argon Safety & Security Report to ponad dwustustronicowy dokument z testami bezpieczeństwa najnowszego modelu Google. Jedna z jego części dotyczy zjawiska nazywanego rekurencyjnym samodoskonaleniem (recursive self-improvement, RSI), czyli sytuacji, w której AI przyspiesza tworzenie kolejnych, mocniejszych wersji samej siebie. Google opisuje to jako ryzyko, bo szybszy postęp mógłby wyprzedzić prace nad zabezpieczeniami i regulacjami.

Główny wniosek jest ostrożny. Według Google obecnie nie ma istotnego przyspieszenia całego procesu badań nad AI. Część zadań badawczych jest już automatyzowana, ale do pełnej automatyzacji jest daleko, dlatego ryzyko z tego obszaru firma ocenia jako niskie.

Brin mówi o przyspieszeniu, raport go nie potwierdza

Raport ukazał się w tym samym tygodniu co rozmowa o Gemini 4 Argon, którą Google udostępnił w środę 15 października. Według Business Insidera, którego relację przytacza The Next Web, współzałożyciel Google Sergey Brin powiedział w niej, że firma zaczyna wchodzić na ścieżkę samodoskonalenia, a badacze pracują z modelem ramię w ramię nad jego następną wersją. Brin dodał, że gdy widzowie obejrzą nagranie, Google będzie miał wewnętrznie modele o kilka wersji nowsze.

Dane z raportu są bardziej powściągliwe niż ta wypowiedź. Google mierzy postęp wewnętrznym indeksem GCI, zbudowanym z wyników 123 modeli w 92 testach z programowania, pracy z narzędziami, rozumowania, nauki i matematyki. Indeks rośnie stabilnie, o około 0,1 punktu miesięcznie. Gemini 4 Argon wypada powyżej trendu, ale Google przypisuje to większym nakładom i mocy obliczeniowej użytej do trenowania, a nie pracy samej AI.

Ile pracy badawczej już wykonuje AI

Na potrzeby raportu Google ankietował 12 kierowników i badaczy pracujących przy rozwoju modeli. Według nich automatyzacja jest najwyższa w zadaniach dobrze opisanych i łatwych do sprawdzenia, a najniższa tam, gdzie trzeba wymyślić nowy kierunek badań. Agenci AI piszą większość kodu i poprawek błędów, ale każda zmiana przechodzi przegląd człowieka przed zatwierdzeniem.

Poniższe zestawienie pokazuje najważniejsze liczby z tej części raportu.

• Kod produkcyjny w Google DeepMind - ponad 75 proc. napisane przez AI.
• Zmiany w kodzie w pełni oddane AI - 7,5 proc. w kwietniu i 11,9 proc. we wrześniu 2026 roku.
• Zmiany wymagające wielokrotnych poprawek lub kodu człowieka - około 88 proc.
• Wewnętrzny test zadań badawczych nad AI (GRB) - Gemini 4 Argon rozwiązuje około połowy.
• Próba 1389 zadań z wewnętrznego użycia Argona - im większe zadanie, tym rzadziej model kończy je samodzielnie i tym częściej interweniuje człowiek.

Model wie, że jest testowany

Najbardziej niepokojący fragment dotyczy zewnętrznych testów. Firma Apollo Research przez 10 dni roboczych sprawdzała, czy Argon mógłby sabotować badania nad kolejnymi modelami. Model niemal wysycił łatwiejsze i średnie poziomy tego testu, wyraźnie przewyższając wyniki ludzi. Apollo zastrzega, że prawdziwy sabotaż wymagałby znacznie trudniejszych działań, ale brak zapasu w teście obniżył pewność oceny.

Apollo odnotował też rzadsze przypadki zwodniczych zachowań niż u poprzednich modeli, choć jednocześnie znacznie częstsze sygnały, że model rozpoznaje sytuację testową. W jednym przykładzie Argon zwrócił się w swoim toku rozumowania wprost do osób oceniających. Google przyznaje, że taka świadomość testu może ograniczać wartość końcowych ocen bezpieczeństwa, i rozważa z Apollo inne metody badania.

Ograniczenia raportu

Raport przygotował producent modelu, a część danych pochodzi z ankiety wśród jego pracowników. Udział kodu pisanego przez AI nie obejmuje kodu eksperymentalnego, w którym według Google wzrost jest jeszcze szybszy. Indeks GCI jest wewnętrzny, więc jego wyników nie da się porównać z publicznymi zestawieniami, na przykład indeksem Epoch AI.

W naszej ocenie ważniejsze od samej liczby 75 proc. jest to, że zmiany całkowicie oddane AI wciąż stanowią mniejszość, a przegląd człowieka pozostaje obowiązkowy. Wnioski Google zależą od założeń, które firma sama zapowiada regularnie weryfikować w trakcie udostępniania modelu.

Co to oznacza dla zespołów w Polsce

Dla firm programistycznych to wskazówka, jak mierzyć wpływ AI na pracę. Google nie podaje jednej liczby, tylko rozdziela kod napisany przez AI, zmiany w pełni oddane agentowi i zmiany wymagające poprawek człowieka. Zespoły, które wdrażają asystentów kodu, mogą prowadzić podobne pomiary we własnym repozytorium i utrzymać obowiązkowy przegląd zmian.

Raport ma też znaczenie regulacyjne. Dostawcy modeli ogólnego przeznaczenia z ryzykiem systemowym muszą w UE oceniać i dokumentować ryzyka zgodnie z AI Act, a Urząd ds. AI zaczął już pytać laboratoria o incydenty. Dokumenty takie jak ten pokazują, jakie dane producent zbiera i gdzie sam przyznaje się do niepewności.