Raport Vercel. Otwarte modele mają 71,5 proc. tokenów i 23 proc. wydatków

Czym jest raport AI Gateway Production Index

Vercel AI Gateway to bramka, przez którą aplikacje wysyłają zapytania do modeli wielu dostawców przez jedno API. Raport opisuje rzeczywisty ruch produkcyjny klientów Vercela, a nie wyniki testów laboratoryjnych. Autorkami październikowego wydania są Amelia Charles i Harpreet Arora.

Dane mają jedno ważne ograniczenie, które przyznaje też TechCrunch. Duża część firm korzysta z modeli OpenAI i Anthropic bezpośrednio przez API tych firm, z pominięciem bramek pośredniczących. Raport może więc zaniżać udział zamkniętych modeli w całym rynku i lepiej opisuje klientów Vercela, czyli głównie zespoły budujące aplikacje webowe.

Otwarte modele biorą wolumen, zamknięte pieniądze

Najważniejszy wniosek dotyczy rozjazdu między liczbą tokenów a wydatkami. Otwarte modele przetwarzają ponad 7 na 10 tokenów, ale biorą niecałą jedną czwartą pieniędzy. Wydatki na nie wzrosły od grudnia ponad 70-krotnie, a na modele czołowych laboratoriów dziesięciokrotnie. Łączne wydatki w bramce były we wrześniu około 13 razy wyższe niż w grudniu, przy spadku średniej ceny tokena o 47 proc.

Różnice między dostawcami dobrze widać w zestawieniu udziałów. Chińskie modele z otwartymi wagami dominują wolumenem, a wyraźnie mniej ważą w kosztach. Według Vercela niemal 70 proc. wrześniowych wydatków na chińskie modele przeszło przez dostawców z siedzibą w USA, wobec mniej niż 10 proc. w grudniu.

• DeepSeek - 58 proc. tokenów, 6,6 proc. wydatków,
• Z.ai (GLM) - 7,2 proc. tokenów, 4,5 proc. wydatków,
• Moonshot AI (Kimi) - 3,6 proc. tokenów, 13,2 proc. wydatków,
• Anthropic - 43,9 proc. wydatków (63,7 proc. w sierpniu), Opus niemal jedna trzecia wszystkich wydatków wobec połowy w sierpniu.

Wrześniowe premiery i rekord modelu Jev

Spośród wrześniowych premier największy udział w wydatkach w pierwszych dwóch tygodniach zdobył Claude Opus 5.5 - 11,03 proc. Za nim znalazły się GPT-6 Astra (4,86 proc.), DeepSeek V4.1 Flash (4,19 proc.) i Claude Sonnet 5.5 (3,21 proc.). Najlepszy wynik w zbiorczej ocenie Vercela uzyskał Claude Sonnet 5.5 (87,8 pkt), przed Gemini 3.8 Flash (81,3) i Claude Opus 5.5 (79,9), a najwyższą retencję miał GPT-6 Luna (64,8 proc.).

Rekord adopcji należy do Jev, modelu decyzyjnego TypeSafe AI, który wybiera jedną z kilku wcześniej zdefiniowanych odpowiedzi i służy głównie do klasyfikacji dużych ilości danych. W dwa tygodnie trafił do 35,3 proc. płacących zespołów. Dla porównania Vercel podaje 18,1 proc. dla Claude Sonnet 5.5 i 14,9 proc. dla GPT-6 Luna. Jev odpowiadał jednak za ok. 1 proc. tokenów i poniżej 0,3 proc. wydatków, przy czym raport podaje w różnych miejscach od 0,15 do 0,3 proc.

Co raport oznacza dla firm w Polsce

W naszej ocenie dane potwierdzają zmianę sposobu budowania aplikacji z AI. Zespoły nie wybierają już jednego modelu do wszystkiego, tylko kierują proste i masowe zadania do tanich modeli, a drogie modele zostawiają do kodu, analizy i pracy agentów. Skoro prawie co drugi zespół zmienił w ciągu miesiąca główny model, przywiązanie do jednego dostawcy staje się kosztownym wyborem.

Dla polskich firm ma to dwie praktyczne konsekwencje. Pierwsza to koszty, bo dobrze dobrany podział zadań między modele może obniżyć rachunek wielokrotnie. Druga to dane i zgodność z przepisami. Korzystanie z chińskiego modelu przez amerykańskiego pośrednika zmienia ocenę ryzyka, ale nie zwalnia z ustalenia, gdzie fizycznie są przetwarzane dane osobowe i na jakiej podstawie trafiają poza Europejski Obszar Gospodarczy.

Jak wykorzystać te dane we własnym projekcie

Raport nie jest rankingiem jakości, tylko obrazem decyzji zakupowych innych zespołów. Warto go użyć jako punktu wyjścia do własnego przeglądu kosztów.

1. sprawdź, jaka część zapytań w aplikacji to proste klasyfikacje, streszczenia lub ekstrakcja danych,
2. przetestuj na tych zadaniach tańszy model otwarty albo model decyzyjny i porównaj jakość na własnych przykładach,
3. licz koszt wykonanego zadania, a nie samą cenę miliona tokenów,
4. przy modelach spoza UE ustal lokalizację przetwarzania i warunki umowy powierzenia danych,
5. zostaw drogi model tam, gdzie błąd ma wysoki koszt, np. w kodzie produkcyjnym lub analizie umów.