Nvidia completa il ciclo dell'inferenza: collabora con Equinix e Together AI per offrire alle aziende l'accesso all'inferenza dei modelli

NVIDIA sta estendendo la sua presenza nelle infrastrutture AI dal lato dell'addestramento a quello dell'inferenza.

Mercoledì, NVIDIA ha annunciato una collaborazione con Equinix, il più grande provider mondiale di servizi di colocation per data center, e Together AI, una piattaforma di AI inferenziale, per offrire congiuntamente ai clienti aziendali servizi di inferenza su modelli open source, colmando così l’ultimo tassello dalla formazione dei modelli al loro deployment in inferenza.

Secondo la suddivisione dei compiti, Equinix fornisce la colocation dei data center, Together AI mette a disposizione la piattaforma di inferenza e NVIDIA offre GPU e stack software. Le tre parti integrano hardware, software e capacità di colocation in un pacchetto unico, entrando direttamente nella fase di inferenza delle applicazioni AI a livello aziendale.

Questa collaborazione rappresenta un elemento chiave nell’ecosistema di inferenza di NVIDIA. In precedenza, l’azienda aveva già stabilito una posizione di leadership nell’addestramento, ora con l’inferenza su modelli open source si rivolge ai clienti enterprise, ampliando ulteriormente la copertura del proprio ecosistema computazionale.

Per Equinix, questa collaborazione rappresenta anche l’opportunità di posizionarsi in modo differenziato nella tendenza alla costruzione di data center AI dal valore di trilioni di dollari, puntando proprio sull’inferenza di modelli open source di livello enterprise.

Ripartizione dei compiti: combinazione di colocation, piattaforma e potenza computazionale

In questa collaborazione, Equinix è responsabile della colocation dei data center, Together AI mette a disposizione la piattaforma di inferenza e NVIDIA offre GPU e stack software.

Nella tendenza globale di costruzione di data center AI da trilioni di dollari, Equinix, in qualità di maggior provider mondiale di colocation, attraverso la partnership con NVIDIA e Together AI, si concentra ora sul segmento della inferenza di modelli open source a livello enterprise, diventando anch’essa una parte beneficiaria e sotto i riflettori di questa collaborazione.

L’obiettivo chiave della partnership è aiutare i clienti aziendali a eseguire carichi di lavoro di inferenza su modelli open source, senza limitare la potenza computazionale a pochi grandi fornitori di modelli.

La logica di NVIDIA nel puntare sui modelli open source è chiara. Il CEO Jensen Huang ha recentemente pubblicato un articolo in cui sottolinea l’importanza dell’AI open source, ottenendo il sostegno della quasi totalità delle principali aziende AI. Secondo il suo punto di vista, i modelli e le applicazioni AI sono complementari alle GPU NVIDIA: la prosperità dei modelli open source genera richieste di potenza computazionale più accurate e diffuse.

Le entrate dall’inferenza superano quelle dall’addestramento: NVIDIA chiude il cerchio

Secondo quanto emerso da un meeting con gli investitori di NVIDIA, circa 18 mesi fa, i ricavi provenienti da addestramento e inferenza erano pressappoco equivalenti; oggi le entrate dall’inferenza hanno superato l’addestramento, e si prevede che questo divario continuerà a crescere.

Allo stesso tempo, oltre il 50% delle entrate relative alle infrastrutture AI proviene da fornitori cloud emergenti, mentre la dinamica di crescita si sta spostando dai tradizionali hyperscaler cloud verso un ecosistema di calcolo AI più ampio.

Sul fronte dell’addestramento e dell’architettura, NVIDIA ha già mosso molti passi importanti.

Attraverso un accordo di licenza tecnologica ha acquisito il core team di Groq e la relativa tecnologia LPU, con l’intenzione di integrarla profondamente nella prossima architettura Vera Rubin (Groq 3 LPX); in programma anche l’acquisizione di Hugging Face, la piattaforma AI open source, per 12,9 miliardi di dollari.

Con questa nuova alleanza con Equinix e Together AI, NVIDIA compie un passo fondamentale nell’ampliare la propria presenza sul fronte dell’inferenza, garantendo che il suo ecosistema computazionale copra l’intera filiera, dall’addestramento dei modelli fino al loro deployment per l’inferenza.