Nvidia melengkapi siklus inferensi: bekerja sama dengan Equinix dan Together AI untuk membuka inferensi model bagi perusahaan.
Nvidia bekerja sama dengan penyedia layanan colocation data center terbesar di dunia, Equinix, dan platform inferensi AI Together AI. Ketiganya akan membagi peran—Equinix menyediakan layanan colocation, Together AI menyediakan platform inferensi, dan Nvidia menyediakan GPU serta tumpukan perangkat lunak—untuk bersama-sama menyediakan layanan inferensi model terbuka bagi pelanggan korporat. Langkah ini menandakan bahwa Nvidia memperluas ekosistem komputasi dari pelatihan (training) ke inferensi, melengkapi siklus tertutup secara menyeluruh.
NVIDIA sedang memperluas infrastruktur AI-nya dari sisi pelatihan ke sisi inferensi.
Pada hari Rabu, NVIDIA menjalin kerja sama dengan Equinix, penyedia layanan kolokasi pusat data terbesar di dunia, dan Together AI, perusahaan platform inferensi AI, untuk menyediakan layanan inferensi model terbuka bagi klien korporat, melengkapi mata rantai terakhir dari pelatihan model hingga penerapan inferensi.
Berdasarkan pembagian peran ketiga pihak, Equinix menyediakan layanan kolokasi pusat data, Together AI menyediakan platform inferensi, dan NVIDIA menyediakan GPU serta software stack. Ketiganya menggabungkan kemampuan perangkat keras, perangkat lunak, dan kolokasi untuk langsung masuk ke tahap inferensi aplikasi AI tingkat perusahaan.
Kerja sama ini menjadi pelengkap kunci dalam ekosistem inferensi bagi NVIDIA. Perusahaan sebelumnya telah membangun posisi terdepan pada sisi pelatihan, dan kini lewat inferensi model terbuka memperluas jangkauan ekosistem komputasinya ke klien korporat.
Bagi Equinix, kolaborasi ini juga berarti mereka menemukan titik masuk yang berbeda yaitu inferensi model terbuka tingkat perusahaan, di tengah tren pembangunan pusat data AI senilai triliunan dolar AS.
Pembagian Peran: Kombinasi Kolokasi, Platform, dan Daya Komputasi
Dalam kerja sama ini, Equinix bertanggung jawab atas kolokasi pusat data, Together AI menyediakan platform inferensi, dan NVIDIA menyediakan GPU serta software stack.
Di tengah tren pembangunan pusat data AI senilai triliunan dolar AS, Equinix sebagai penyedia kolokasi pusat data terbesar di dunia, melalui kemitraan dengan NVIDIA dan Together AI, memfokuskan posisi mereka pada bidang inferensi model terbuka tingkat perusahaan, sehingga juga menjadi pihak penerima manfaat yang diperhatikan dalam putaran kerja sama ini.
Tujuan utama kolaborasi ketiga pihak ini adalah membantu klien korporat menjalankan beban kerja inferensi model terbuka, bukannya membatasi daya komputasi pada segelintir perusahaan model papan atas saja.
Alasan NVIDIA bertaruh pada model terbuka terbilang jelas. Dalam artikel publikasi terbaru, CEO Jensen Huang menekankan pentingnya AI open source, didukung hampir seluruh perusahaan AI utama. Menurutnya, model AI dan aplikasi merupakan komplementer bagi GPU NVIDIA; berkembangnya model open source berarti kebutuhan daya komputasi lebih akurat dan luas.
Pendapatan Inferensi Melebihi Pelatihan, NVIDIA Lengkapi Mata Rantai
Menurut pertemuan investor NVIDIA, sekitar 18 bulan lalu, pendapatan dari pelatihan dan inferensi masih seimbang. Kini, pendapatan inferensi sudah melampaui pelatihan, dan kesenjangan tersebut diperkirakan akan terus melebar.
Pada saat yang sama, pendapatan infrastruktur komputasi AI yang berasal dari penyedia cloud baru telah mencapai lebih dari 50%, menunjukkan dorongan pertumbuhan mulai bergeser dari perusahaan cloud hyperscale tradisional ke ekosistem daya komputasi AI yang lebih luas.
Pada sisi pelatihan dan arsitektur, NVIDIA sebelumnya sudah melakukan langkah strategis secara intensif.
Melalui perjanjian lisensi teknologi, NVIDIA mengakuisisi tim inti Groq beserta teknologi LPU dan berencana mengintegrasikan LPU secara mendalam dalam arsitektur generasi berikutnya Vera Rubin (Groq 3 LPX); serta berencana mengakuisisi platform AI open source Hugging Face senilai 12,9 miliar dolar AS.
Kali ini, bekerja sama dengan Equinix dan Together AI, NVIDIA mengambil langkah penting untuk memperluas ekspansi ke sisi inferensi, sehingga ekosistem daya komputasinya kini meliputi rantai penuh dari pelatihan model hingga penerapan inferensi.
Disclaimer: Konten pada artikel ini hanya merefleksikan opini penulis dan tidak mewakili platform ini dengan kapasitas apa pun. Artikel ini tidak dimaksudkan sebagai referensi untuk membuat keputusan investasi.
Kamu mungkin juga menyukai
Pasar obligasi mendapatkan jeda sementara! Lelang obligasi pemerintah Jepang tenor 30 tahun berakhir dengan stabil, imbal hasil di atas 4% menarik pembeli masuk.
Lelang obligasi pemerintah Jepang bertenor 30 tahun berhasil diselesaikan dengan lancar pada hari Kamis, dengan imbal hasil yang melebihi 4%, memberikan jeda sementara bagi pasar obligasi jangka panjang global yang mengalami tekanan penjualan baru-baru ini.
Citibank meningkatkan target harga Dell menjadi 600 dolar AS
Probabilitas kenaikan suku bunga naik dari 37% menjadi 67% dalam satu minggu, Presiden New York Federal Reserve: Kenaikan imbal hasil obligasi jangka panjang mencerminkan ekonomi yang sehat.
Harga minyak tetap stabil di atas level tinggi 90 dolar AS ditambah dengan ketegangan geopolitik antara AS dan Iran, sehingga kekhawatiran inflasi terus meningkat, memperkuat ekspektasi bahwa Federal Reserve perlu terus memperketat kebijakan moneter. Williams menyatakan bahwa kenaikan imbal hasil obligasi jangka panjang berasal dari ekonomi yang kuat, dan menekankan perlunya data lebih lanjut sebelum mengambil keputusan, membuat ekspektasi kenaikan suku bunga di pasar sedikit mereda. Data non-farm payroll pada Jumat dan data CPI tanggal 11 September akan menjadi variabel kunci, sementara pidato Waller dari Federal Reserve pada Kamis juga sangat mendapat perhatian.
Harga kripto
Lainnya
