Nvidia: Od modeli do jednorazowego szkolenia do agentów z ulepszeniem po szkoleniu – zapotrzebowanie na moc obliczeniową się zmienia

Nvidia rozszerza kluczową propozycję wartości swojej następnej generacji platformy Vera Rubin z kosztów wnioskowania na wydajność treningu modeli, opierając się na nowym wskaźniku "inteligencja za dolara" (intelligence per dollar) i stawiając na to, że w erze agentowego AI najważniejszym zapotrzebowaniem na moc obliczeniową stanie się nieustanny post-training.

Nvidia wyjaśnia na oficjalnym blogu, że wraz z pojawieniem się agentowego AI (Agentic AI), post-training modelu ewoluował z jednorazowego końcowego etapu do ciągłego, cyklicznego głównego obciążenia roboczego. W przeciwieństwie do tradycyjnych generatywnych modeli, model agenta musi planować, korzystać z narzędzi oraz autonomicznie korygować błędy podczas działania, a jego środowisko zmienia się nawet co tydzień, co powoduje ciągłą akumulację zapotrzebowania na moc obliczeniową post-training. Nvidia informuje, że platforma Vera Rubin została zaprojektowana specjalnie dla takich obciążeń i pozwala na trenowanie modeli o największej skali przy użyciu zaledwie jednej czwartej liczby GPU w porównaniu do poprzedniej generacji platformy Blackwell.

Takie stanowisko bezpośrednio wpływa na logikę sprzedaży mocy obliczeniowej przez Nvidia: cykl post-trainingu nigdy się nie kończy, co oznacza, że zapotrzebowanie klientów na klastry GPU przechodzi z modelu projektowego na stały, a potencjalny rynek ulega powiększeniu. Prime Intellect, Perplexity oraz Together AI, które już uruchamiają obciążenia post-training na platformach Nvidia, zadeklarowały plany migracji lub rozwoju na platformę Vera Rubin.

Post-training jako główny napęd mocy obliczeniowej w erze agentowego AI

Nvidia systematycznie przedstawia strategiczną pozycję post-training na blogu. Etap pre-trainingu zapewnia modelowi płynność językową, natomiast prawdziwa "inteligencja" – obejmująca pisanie kodu, planowanie złożonych zadań, korzystanie z narzędzi wyszukujących oraz odzyskiwanie po błędach – powstaje właśnie podczas post-training.

Post-training wykorzystuje techniki uczenia ze wzmocnieniem (RL): model generuje próby dla zadanych zadań (forward propagation), po czym te próby są oceniane i na tej podstawie uaktualniane są wagi modelu (backward propagation). Po milionach iteracji zdolności modelu stopniowo rosną. Nvidia podkreśla, że ten proces pochłania ogromne ilości mocy obliczeniowej – wymaga tysięcy równoległych środowisk generujących rollouty i stabilnej pracy wszystkich akceleratorów.

Nvidia definiuje wskaźnik "inteligencja za dolara" jako wyższy poziom względem "kosztu na token": pierwszy mierzy wydajność operacyjną fabryk wnioskowań, drugi natomiast ocenia, czy inwestycja w budowę i utrzymanie modelu, który warto wdrożyć, jest opłacalna. Te dwa wskaźniki są od siebie zależne – obniżenie kosztu na token jednocześnie zmniejsza koszt budowy inteligencji modelu, a wyższa inteligencja modelu zwiększa wartość obsługi każdego tokena.

Nemotron Ultra dostarcza weryfikowalny punkt odniesienia dla post-training

W celu wsparcia powyższych twierdzeń, Nvidia ujawnia szczegóły post-training dla otwartego modelu Nemotron 3 Ultra. Model ten posiada aż 550 miliardów parametrów, wykorzystuje architekturę ekspertów mieszanych (MoE) i kompletny proces post-training odbywa się w ramach NeMo RL.

W realnym benchmarku programistycznym SWE-bench Verified, Nemotron 3 Ultra zdobył 71,7% punktów, czyli spośród rzeczywistych błędów w otwartym oprogramowaniu generuje w około siedmiu przypadkach skuteczne rozwiązania, które przechodzą własne testy projektów. Nvidia informuje, że wyniki tego testu są publicznie weryfikowalne, a cały proces post-training został ujawniony.

Nvidia podkreśla też, że platforma Blackwell umożliwiła opłacalne prowadzenie wysokofrekventnego post-training w erze agentowego AI poprzez obniżenie kosztów pojedynczego uruchomienia, a Vera Rubin jeszcze bardziej rozszerzy tę trajektorię – zapewni obsługę większej liczby rolloutów, bardziej rozbudowanych równoległych środowisk oraz nieprzerwanego cyklu post-training.

Najwięksi klienci potwierdzają możliwości platformy, migracje nabierają tempa

Wiele firm, które już prowadzą obciążenia post-training na platformach Nvidia, ujawniło techniczne szczegóły i wyraziło chęć migracji na Vera Rubin.

Prime Intellect nieprzerwanie prowadzi post-training nowoczesnych otwartych modeli na platformie Blackwell, używając NVIDIA Dynamo do organizacji wnioskowań. Firma zintegrowała infrastrukturę sandboxową z NVIDIA Vera CPU, która w testach porównawczych z architekturą x86 osiągnęła średni wzrost przepustowości o 30% przy rzeczywistych obciążeniach RL w sandboxie. Prime Intellect planuje rozszerzać środowiska uczenia ze wzmocnieniem dzięki Vera Rubin i przyspieszyć cykl iteracji od treningu do wnioskowania.

Stos RL post-training Perplexity działa asynchronicznie na setkach GPU Nvidia, a silnik transferu wag oparty na RDMA pozwala na zsynchronizowanie modelu o bilionie parametrów między węzłami treningowymi i wnioskowania w mniej niż dwie sekundy. Po post-trainingu, model Qwen3 235B jest następnie wdrażany na systemie NVIDIA GB200 NVL72.

Together AI oferuje post-training w formie usług, obejmując nadzorowany fine-tuning, RL i bezpośrednią optymalizację preferencji, dostarczając rozwiązania przez API i SDK, obecnie działając na platformie Nvidia i deklarując poszukiwanie możliwości podłączenia do platformy Vera Rubin.