Nvidia complète la boucle côté inférence : en partenariat avec Equinix et Together AI, elle ouvre l’inférence de modèles aux entreprises.

Nvidia étend la carte de son infrastructure d'IA du côté de l'entraînement vers le côté de l’inférence.

Mercredi, Nvidia a conclu un partenariat avec Equinix, le plus grand hébergeur de centres de données au monde, et Together AI, une société de plateforme d’inférence d’IA, afin de fournir conjointement un service d’inférence sur modèles ouverts aux clients entreprises, complétant ainsi la dernière étape du processus allant de l’entraînement des modèles au déploiement de l’inférence.

Selon la répartition des tâches, Equinix fournit l’hébergement des centres de données, Together AI propose la plateforme d’inférence, et Nvidia fournit les GPU et la pile logicielle. Les trois partenaires combinent matériel, logiciels et capacité d’hébergement pour intervenir directement dans la phase d’inférence des applications d’IA au niveau entreprise.

Ce partenariat constitue une étape clé pour Nvidia dans le développement de son écosystème du côté de l’inférence. L’entreprise détient déjà une position de leader sur le volet entraînement, et en s’étendant désormais à l’inférence sur des modèles ouverts pour les entreprises, elle élargit encore la portée de son écosystème de puissance de calcul.

Pour Equinix, ce partenariat représente aussi un point d’entrée différencié sur le marché florissant de la construction de centres de données d’IA, évalué à plusieurs milliers de milliards, grâce à l’inférence sur modèles ouverts destinée aux entreprises.

Le partage des rôles : combinaison d’hébergement, de plateforme et de puissance de calcul

Dans le cadre de ce partenariat, Equinix est responsable de l’hébergement des centres de données, Together AI fournit la plateforme d’inférence, et Nvidia les GPU ainsi que la pile logicielle.

Sur le marché des centres de données d’IA, qui se chiffre en milliers de milliards, Equinix, en s’alliant à Nvidia et Together AI, recentre son positionnement sur la niche de l’inférence sur modèles ouverts pour les entreprises, devenant ainsi aussi un bénéficiaire notable dans cette coopération.

L’objectif clé de ce partenariat est d’aider les clients entreprises à exécuter des charges de travail d’inférence sur modèles ouverts, sans restreindre la puissance de calcul à une poignée de fournisseurs de modèles majeurs.

La stratégie de Nvidia visant à miser sur les modèles ouverts est limpide. Son PDG Jensen Huang a récemment publié un article pour exprimer l’importance des IA open source, bénéficiant du soutien de quasiment toutes les grandes entreprises d’IA. Selon lui, les modèles et applications d’IA sont complémentaires aux GPU de Nvidia ; la prospérité des modèles open source se traduit par une demande de puissance de calcul plus précise et plus large.

Les revenus de l’inférence dépassent ceux de l’entraînement, Nvidia boucle la boucle

Selon une présentation aux investisseurs de Nvidia, il y a environ 18 mois, les revenus issus de l’entraînement et de l’inférence étaient à peu près équivalents ; désormais, l’inférence les a dépassés et cette différence devrait continuer à s’accroître.

Dans le même temps, les nouveaux fournisseurs de services cloud contribuent désormais à plus de 50 % des revenus de l’infrastructure de calcul d’IA, la dynamique de la croissance se diffusant de plus en plus de l’infime cercle des hyperscalers traditionnels vers l’ensemble de l’écosystème de puissance de calcul IA.

Nvidia avait déjà multiplié les initiatives au niveau de l’entraînement et de l'architecture.

Par le biais de licences technologiques pour attirer l’équipe principale de Groq et sa technologie LPU, et le projet d’une intégration approfondie de la LPU dans la prochaine architecture Vera Rubin (Groq 3 LPX) ; projet de rachat de la plateforme open source d’IA Hugging Face pour 12,9 milliards de dollars.

Ce partenariat avec Equinix et Together AI marque ainsi une étape majeure pour Nvidia, étendant sa stratégie vers le côté inférence et couvrant désormais toute la chaîne, de l’entraînement des modèles au déploiement de l’inférence avec son écosystème de puissance de calcul.