NVIDIA AI Enterprise Ethernet Spectrum X
NVIDIA AI Enterprise Ethernet Spectrum X

NVIDIA Spectrum-X Segera Tersedia, Bawa Jaringan untuk AI

Mohammad Mamduh • 27 November 2023 11:25
Jakarta: NVIDIA mengumumkan bahwa Dell, HPE, dan Lenovo akan menjadi perusahaan pertama yang mengintegrasikan teknologi jaringan Ethernet NVIDIA Spectrum-X untuk AI ke dalam jajaran server mereka guna membantu pelanggan perusahaan mempercepat beban kerja AI generatif.
 
Dibuat khusus untuk AI generatif, Spectrum-X menawarkan kepada perusahaan jaringan Ethernet kelas baru yang dapat mencapai kinerja jaringan 1,6x lebih tinggi untuk komunikasi AI dibandingkan penawaran Ethernet tradisional.
 
Sistem baru yang berasal dari tiga pembuat sistem terkemuka ini menyatukan Spectrum-X dengan GPU NVIDIA Tensor Core, perangkat lunak NVIDIA AI Enterprise, dan perangkat lunak NVIDIA AI Workbench untuk memberikan landasan bagi perusahaan dalam mentransformasikan bisnis mereka dengan AI generatif.

“AI generatif dan komputasi yang dipercepat mendorong transisi generasi ketika perusahaan meningkatkan pusat data mereka untuk melayani beban kerja ini,” kata Jensen Huang, pendiri dan CEO NVIDIA. “Jaringan yang dipercepat adalah katalis bagi gelombang sistem baru dari mitra produsen server terkemuka NVIDIA untuk mempercepat peralihan ke era AI generatif.”
 
“Komputasi dan jaringan yang dipercepat adalah kunci dalam membangun sistem guna memenuhi permintaan model bahasa besar dan aplikasi AI generatif,” kata Michael Dell, ketua dan CEO Dell Technologies.
 
“Melalui kolaborasi kami, Dell Technologies dan NVIDIA menyediakan infrastruktur dan perangkat lunak yang dibutuhkan pelanggan untuk mengekstrak intelijen dari data mereka dengan cepat dan aman.”
 
“AI generatif tidak diragukan lagi akan mendorong inovasi di berbagai industri,” kata Antonio Neri, presiden dan CEO HPE.
 
“Aplikasi baru yang kuat ini memerlukan arsitektur yang berbeda secara fundamental untuk mendukung berbagai beban kerja dinamis. Untuk memungkinkan pelanggan mewujudkan potensi penuh dari AI generatif, HPE bermitra dengan NVIDIA untuk membangun sistem dengan daya, efisiensi, dan skalabilitas yang diperlukan untuk mendukung aplikasi-aplikasi ini.”
 
“AI generatif dapat mendorong transformasi yang belum pernah terjadi sebelumnya, namun memberikan tuntutan yang belum pernah terjadi sebelumnya pada infrastruktur perusahaan,” kata Yuanqing Yang, ketua dan CEO Lenovo. “Bekerja sama dengan NVIDIA, Lenovo membangun sistem yang efisien dan terakselerasi dengan jaringan, komputasi, dan perangkat lunak yang diperlukan untuk mendukung aplikasi AI modern.”
 
Spectrum-X menggabungkan kinerja ekstrem dari switch Ethernet Spectrum-4; NVIDIA BlueField-3 SuperNIC, akselerator jaringan kelas baru untuk meningkatkan beban kerja AI skala besar; serta perangkat lunak akselerasi. Spectrum-X melengkapi DPU BlueField-3, platform komputasi infrastruktur tercanggih di dunia.
 
Spectrum-4 adalah switch Ethernet 51Tb/dtk pertama di dunia untuk AI, memberikan throughput data yang sangat efektif dalam skala besar dan dalam beban sekaligus meminimalkan kemacetan jaringan untuk beban kerja cloud AI multi-tenant. Teknologi peruteannya yang cerdas dan disesuaikan memungkinkan pemanfaatan infrastruktur jaringan secara maksimal setiap saat.
 
BlueField-3 SuperNIC dirancang untuk komputasi paralel masif yang intensif jaringan, menawarkan konektivitas jaringan RDMA hingga 400 Gb/s melalui Converged Ethernet (RoCE) antara server GPU dan meningkatkan kinerja untuk pelatihan AI dan lalu lintas inferensi pada jaringan timur-barat di dalam gugus.
 
Mereka juga memungkinkan lingkungan pusat data multi-penyewa yang aman, memastikan kinerja yang deterministik dan terisolasi di antara pekerjaan penyewa. Dengan faktor bentuk PCIe yang hemat daya, setengah tinggi, dan setengah panjang, BlueField-3 SuperNIC ideal untuk server kelas perusahaan.
 
Perangkat lunak akselerasi yang mendukung Spectrum-X dilengkapi dengan perangkat pengembangan perangkat lunak NVIDIA seperti Cumulus Linux, Pure SONiC, dan NetQ — yang bersama-sama mendorong kinerja terobosan platform — dan kerangka perangkat lunak NVIDIA DOCA, yang merupakan inti dari BlueField.
 
NVIDIA AI Enterprise menyediakan kerangka kerja, model terlatih, dan alat pengembangan untuk AI produksi yang aman, stabil, dan didukung. NVIDIA AI Workbench memungkinkan pengembang dengan cepat membuat, menguji, dan menyesuaikan model AI generatif yang telah dilatih sebelumnya di PC atau stasiun kerja — lalu menskalakannya ke hampir semua pusat data atau cloud.
 
Sistem baru dari Dell, HPE, dan Lenovo yang menampilkan tumpukan NVIDIA AI lengkap diharapkan tersedia pada kuartal pertama tahun depan.
 
Cek Berita dan Artikel yang lain di
Google News
(MMI)




TERKAIT

BERITA LAINNYA

social
FOLLOW US

Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan