CoreWeave uruchamia Vera Rubin NVL72 w chmurze. Pierwszy klient to Cognition

Co udostępnił CoreWeave

Ogłoszenie padło podczas konferencji CoreWeave Fully Connected w San Francisco. Spółka poinformowała, że pierwsze produkcyjne szafy Vera Rubin NVL72 z siecią Spectrum-X Ethernet są już dostępne w jej chmurze. NVIDIA opisała to wdrożenie na swoim blogu jako przejście nowej platformy od testów do obciążeń produkcyjnych.

Jedna szafa NVL72 łączy 72 układy graficzne Rubin i 36 procesorów Vera w jeden system chłodzony cieczą. CoreWeave podaje przepustowość pamięci HBM4 na poziomie 1,4 tys. TB/s i 216 TB/s w łączach NVLink, czyli szybkim połączeniu między układami w obrębie szafy.

Wyniki Cognition na Vera Rubin

Cognition otrzymał pierwsze szafy na początku września i według CoreWeave uruchomił na nich zadania w ciągu kilku dni. Silas Alberti z zespołu założycielskiego Cognition podaje, że firma zwiększyła łączną przepustowość tokenów przy wnioskowaniu modelu SWE-2 do 4,8 razy względem GB200 NVL72. Przy uczeniu przez wzmacnianie, czyli trenowaniu modelu na podstawie nagród za wykonane zadania, przepustowość tokenów wyjściowych wzrosła 3,8 razy.

Wyniki dotyczą jednego klienta i konkretnych obciążeń. CoreWeave podaje też wynik z testu na modelu DeepSeek R1: dziesięciokrotnie więcej tokenów na megawat niż na GB200 NVL72. To dane dostawców, bez niezależnej weryfikacji i bez pełnej metodologii.

Pozostałe zapowiedzi dla agentów AI

Druga część ogłoszenia dotyczy infrastruktury dla agentów AI, które wykonują wiele krótkich zadań na zwykłych procesorach, na przykład uruchamiają kod lub wywołują narzędzia. CoreWeave zapowiedział kilka usług.

• NVIDIA Vera CPU - szafy ze 128 procesorami i 11 264 rdzeniami, które mają obsłużyć ponad 11 tys. równoległych środowisk agentów; według NVIDIA sandbox agenta startuje ponad trzy razy szybciej,
• Sandboxes - izolowane środowiska do uruchamiania kodu agentów, wywołań narzędzi i ewaluacji, teraz ogólnie dostępne,
• Agent Lens - usługa do obserwowania działania agentów w produkcji; producent deklaruje o 20 proc. lepsze wykrywanie błędów i o 50 proc. niższy koszt ich naprawy,
• CoreWeave Forge - wspólne środowisko do trenowania i oceny modeli oraz agentów.

Ograniczenia i niewiadome

CoreWeave nie opublikował cennika Vera Rubin NVL72 ani terminu pełnej dostępności. Nie wskazał też, w których regionach stoją nowe szafy, i nie wspomniał o Europie.

Porównania wydajności odnoszą się do poprzedniej generacji NVIDIA, a nie do układów innych producentów. Deklarowany przez NVIDIA wielokrotnie niższy koszt tokena to wyliczenie producenta, które nie przekłada się automatycznie na cenę dla klienta chmury.

Co to oznacza dla firm w Polsce

Dla większości polskich firm korzystających z AI przez API zmiana będzie widoczna pośrednio. Jeśli dostawcy modeli przeniosą wnioskowanie na Vera Rubin, może spaść koszt obsługi długich zadań agentowych, ale decyzja o cenach należy do nich. Szerzej o tym, dlaczego liczyć koszt zadania zamiast ceny tokena, piszemy w osobnej analizie.

Firmy trenujące własne modele w Europie powinny zapytać dostawców chmury o termin dostępności Rubin w regionach UE i o warunki rezerwacji mocy. W naszej ocenie przy ograniczonym dostępie nowe szafy trafią najpierw do największych klientów, takich jak Cognition, a mniejsze zespoły poczekają na szerszą dostępność.