Nvidia: desde los modelos grandes de "entrenamiento único" hacia los agentes de "mejora post-entrenamiento", la demanda de potencia de cómputo está cambiando

Nvidia está ampliando la propuesta de valor central de su próxima generación de la plataforma Vera Rubin desde el costo de inferencia hasta la eficiencia en el entrenamiento de modelos, apostando por el indicador "inteligencia por dólar", que prevé que la demanda de cómputo para el post-entrenamiento se convertirá en el núcleo en la era de la AI de agentes.

Nvidia explica en su blog oficial que, con el auge de la Agentic AI, el post-entrenamiento de modelos ha evolucionado de ser una etapa final única a convertirse en una carga de trabajo central en constante ciclo. A diferencia de los modelos generativos tradicionales, los modelos de agentes requieren planificar, utilizar herramientas y corregirse de manera autónoma durante su ejecución, en ambientes que pueden cambiar cada semana; esto hace que la demanda de cómputo para el post-entrenamiento se acumule continuamente. Nvidia afirma que la plataforma Vera Rubin fue diseñada específicamente para esta carga de trabajo colaborativa, permitiendo entrenar modelos de máxima escala con solo una cuarta parte de la cantidad de GPUs que requiere la generación Blackwell.

Esta declaración se relaciona directamente con la lógica de ventas de cómputo de Nvidia: el ciclo de post-entrenamiento nunca termina, lo que significa que la necesidad de clústeres de GPU por parte de los clientes pasará de ser por proyecto a transformarse en un requerimiento constante, ampliando el tamaño potencial del mercado. Empresas como Prime Intellect, Perplexity y Together AI, entre otras, que ya operan cargas de post-entrenamiento en plataformas de Nvidia, han anunciado planes de migrar o expandirse hacia Vera Rubin.

El post-entrenamiento se convierte en el motor clave de cómputo en la era de los agentes

Nvidia expone sistemáticamente en su blog la importancia estratégica del post-entrenamiento. La fase de pre-entrenamiento otorga al modelo fluidez lingüística, mientras que la verdadera "inteligencia"—incluyendo escribir código, planificar tareas multietapas, usar herramientas de búsqueda y recuperarse de errores—se forma durante el post-entrenamiento.

El post-entrenamiento utiliza técnicas de aprendizaje por refuerzo (RL): el modelo genera intentos para tareas (propagación hacia adelante), estos intentos reciben una puntuación y luego se actualizan los pesos del modelo (propagación hacia atrás), mejorando gradualmente tras millones de iteraciones. Según Nvidia, este proceso requiere un consumo masivo de cómputo, generando miles de rollouts en ambientes paralelos mientras mantiene aceleradores funcionando a plena carga.

Nvidia posiciona la "inteligencia por dólar" como un indicador superior al "costo por token": el primero mide la eficiencia operativa en fábricas de inferencia, el segundo evalúa si la inversión necesaria para construir y mantener un modelo digno de ser desplegado es rentable. Ambos se relacionan—reducir el costo por token disminuye también el costo de construir la inteligencia del modelo, mientras que mayor inteligencia de modelo eleva el valor de servicio por cada token.

Nemotron Ultra ofrece benchmark verificable de post-entrenamiento

Para respaldar lo anterior, Nvidia reveló detalles del post-entrenamiento para su modelo de pesos abiertos Nemotron 3 Ultra. Este modelo cuenta con 550 mil millones de parámetros, arquitectura de mezclas de expertos (MoE) y realiza su post-entrenamiento en el marco NeMo RL.

En la benchmark de programación real SWE-bench Verified, Nemotron 3 Ultra logró una puntuación de 71,7%; es decir, en defectos presentes en proyectos open source, siete de cada diez puede generar soluciones de reparación válidas que superan las pruebas internas del proyecto. Nvidia señala que este resultado es verificable y el esquema de post-entrenamiento se encuentra totalmente abierto.

Nvidia también indica que la plataforma Blackwell ya ha hecho viable económicamente el post-entrenamiento frecuente requerido en la era de agentes gracias a la reducción de costos por ejecución, y que Vera Rubin llevará la tendencia aún más lejos—permitiendo más rollouts, ambientes paralelos y ciclos de post-entrenamiento ininterrumpidos.

Clientes destacados validan la capacidad de la plataforma y la migración empieza a tomar forma

Varias empresas que ya operan cargas de post-entrenamiento en la plataforma Nvidia han divulgado especificaciones técnicas, junto con intenciones de migrar a Vera Rubin.

Prime Intellect mantiene el post-entrenamiento de modelos open source punta en la plataforma Blackwell y utiliza NVIDIA Dynamo para la orquestación de inferencia. La empresa ya integró infraestructura sandbox con CPUs NVIDIA Vera, y en pruebas comparativas con arquitecturas x86, el throughput promedio de Vera CPU fue un 30% superior en cargas de trabajo RL sandbox reales. Prime Intellect planea expandir el entorno RL y acelerar el ciclo de entrenamiento a inferencia con Vera Rubin.

La pila de post-entrenamiento RL de Perplexity corre asincrónicamente en cientos de GPUs Nvidia; su motor de transferencia de pesos basado en RDMA permite sincronizar modelos de billones de parámetros entre nodos de entrenamiento e inferencia en solo dos segundos. El modelo Qwen3 235B post-entrenado luego fue desplegado en el sistema NVIDIA GB200 NVL72.

Together AI ofrece capacidades de post-entrenamiento como servicio, abarcando fine-tuning supervisado, aprendizaje por refuerzo y optimización directa de preferencia, entregados vía API y SDK; actualmente corre en la plataforma Nvidia y señala estar explorando la integración con Vera Rubin.