Nvidia Spectrum
Nvidia Spectrum

Computex 2023

Nvidia Spectrum Percepat Ethernet untuk Hyperscale Generative AI

Mohammad Mamduh • 01 Juni 2023 12:19
Jakarta: Nvidia mengumumkan Nvidia Spectrum-X, platform Ethernet terakselerasi yang dirancang untuk meningkatkan kinerja dan efisiensi cloud AI berbasis Ethernet.
 
Nvidia Spectrum-X dibangun di atas inovasi jaringan yang ditenagai oleh penggabungan erat sakelar Nvidia Spectrum-4 Ethernet dengan Nvidia BlueField-3 DPU, mencapai 1,7x kinerja AI dan efisiensi daya yang lebih baik, bersama dengan kinerja yang konsisten dan dapat diprediksi di lingkungan multipenyewa.
 
Spectrum-X didukung oleh perangkat lunak akselerasi Nvidia dan kit pengembangan perangkat lunak (SDK), yang memungkinkan pengembang membangun aplikasi AI berbasis cloud yang ditentukan perangkat lunak.
 
Kemampuan transmisi end-to-end mengurangi run-time model AI generatif berbasis transformer masif. Hal ini memungkinkan teknisi jaringan, ilmuwan data AI, dan penyedia layanan cloud untuk meningkatkan hasil dan membuat keputusan yang tepat dengan lebih cepat.
 
Hyperscaler top dunia mengadopsi Nvidia Spectrum-X, termasuk inovator cloud terkemuka di industri. Sebagai cetak biru dan testbed untuk desain referensi Spectrum-X, Nvidia membangun Israel-1, superkomputer AI generatif hiperskala untuk digunakan di pusat data Israel pada server Dell PowerEdge XE9680 berdasarkan platform delapan-GPU Nvidia HGX H100, DPU BlueField-3 dan sakelar Spectrum-4.
 
“Teknologi transformatif seperti AI generatif memaksa setiap perusahaan untuk mendorong batasan kinerja pusat data dalam mengejar keunggulan kompetitif,” kata Gilad Shainer, wakil presiden senior jaringan di Nvidia. “
 
Nvidia Spectrum-X adalah kelas baru jaringan Ethernet yang menghilangkan hambatan untuk beban kerja AI generasi mendatang yang berpotensi mengubah seluruh industri.”
 
Platform jaringan Nvidia Spectrum-X dapat digunakan di berbagai aplikasi AI. Ini menggunakan Ethernet berbasis standar sepenuhnya dan dapat dioperasikan dengan tumpukan berbasis Ethernet.
 
Platform ini dimulai dengan Spectrum-4, sakelar Ethernet 51Tb/detik pertama di dunia yang dibuat khusus untuk jaringan AI. Ekstensi RoCE tingkat lanjut bekerja bersama di seluruh sakelar Spectrum-4, DPU BlueField-3, dan optik LinkX untuk membuat jaringan 400GbE end-to-end yang dioptimalkan untuk cloud AI.
 
Nvidia Spectrum-X meningkatkan multi-tenancy dengan isolasi kinerja untuk memastikan beban kerja AI penyewa bekerja secara optimal dan konsisten. Ini juga menawarkan visibilitas kinerja AI yang lebih baik, karena dapat mengidentifikasi kemacetan kinerja dan fitur validasi fabric yang sepenuhnya otomatis.
 
Perangkat lunak akselerasi yang menggerakkan Spectrum-X mencakup Nvidia SDK seperti Cumulus Linux, SONiC, dan NetQ — yang bersama-sama memungkinkan kinerja ekstrem platform jaringan. Ini juga mencakup kerangka perangkat lunak Nvidia DOCA™, yang merupakan inti dari DPU BlueField.
 
Nvidia Spectrum-X memungkinkan skala 256 port 200Gb/s yang belum pernah ada sebelumnya yang terhubung dengan satu sakelar, atau 16.000 port dalam topologi tulang daun dua tingkat untuk mendukung pertumbuhan dan perluasan cloud AI sambil mempertahankan tingkat kinerja tinggi dan meminimalkan latensi jaringan.

Cek Berita dan Artikel yang lain di
Google News

Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
(MMI)




TERKAIT

BERITA LAINNYA

social
FOLLOW US

Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan