CEO NVIDIA, Jensen Huang, menyebut Vera Rubin sebagai lompatan generasi yang akan memicu pembangunan infrastruktur teknologi terbesar dalam sejarah. Menurutnya, platform ini selain mempercepat proses pelatihan model AI, juga menghadirkan efisiensi energi dan biaya yang jauh lebih baik.
Vera Rubin hadir dengan berbagai rak komputasi khusus yang menyatukan GPU, CPU, prosesor inferensi, sistem penyimpanan, dan jaringan berlatensi rendah. Salah satu yang paling menonjol adalah NVL72 Rack, yang berisi 72 GPU dan 36 CPU, menawarkan efisiensi tinggi serta menekan biaya pelatihan model.
Ada pula Vera CPU Rack dengan 256 CPU yang dioptimalkan untuk reinforcement learning dan agentic AI, serta Groq 3 LPX Rack yang berisi 256 prosesor LPU dengan kemampuan inferensi ultra-cepat, cocok untuk model berskala triliunan parameter.
Sistem penyimpanan BlueField-4 STX memungkinkan interaksi multi-turn yang lebih cepat, sementara Spectrum-6 SPX Ethernet Rack menghadirkan konektivitas berkecepatan tinggi dengan latensi rendah.
Platform ini dirancang untuk mendukung POD-scale AI factories, mengintegrasikan komputasi, jaringan, penyimpanan, daya, dan pendinginan dalam satu ekosistem. Lebih dari 200 mitra ekosistem serta penyedia cloud besar seperti AWS, Google Cloud, Microsoft Azure, dan Oracle telah menyatakan dukungan.
Sejumlah laboratorium AI terkemuka, termasuk Anthropic, OpenAI, Meta, dan Mistral AI, berencana memanfaatkan Vera Rubin untuk mengembangkan model yang lebih besar dan lebih canggih.
NVIDIA mengklaim NVL72 mampu mencapai sepuluh kali throughput inferensi per watt dibandingkan generasi sebelumnya. Groq 3 LPX bahkan menawarkan 35 kali throughput per megawatt, sementara BlueField-4 STX meningkatkan performa hingga lima kali lipat berkat sistem penyimpanan AI-native.
Cek Berita dan Artikel yang lain di
Google News
