Ia dibuat untuk pengembangan model raksasa generasi mendatang demi aplikasi bahasa AI generatif, sistem pemberi rekomendasi, dan beban kerja analitik data. Ruang shared memory Nvidia DGX GH200 diklaim besar, menggunakan teknologi interkoneksi NVLink dengan NVLink Switch System untuk menggabungkan 256 superchip GH200, membuatnya bisa bekerja sebagai GPU tunggal.
Ini memberikan kinerja 1 exaflop dan memori berbagi 144 terabyte — hampir 500x memori lebih banyak daripada Nvidia DGX A100 generasi sebelumnya, yang diperkenalkan pada tahun 2020.
“Generative AI, model bahasa besar, dan sistem pemberi rekomendasi adalah mesin digital ekonomi modern,” kata Jensen Huang, pendiri dan CEO Nvidia. “Superkomputer DGX GH200 AI mengintegrasikan teknologi komputasi terakselerasi dan jaringan tercanggih Nvidia untuk memperluas batas AI.”
Superchip GH200 menghapus kebutuhan akan koneksi PCIe CPU-ke-GPU tradisional dengan menggabungkan CPU Nvidia Grace berbasis Arm dengan GPU Nvidia H100 Tensor Core dalam paket yang sama, menggunakan interkoneksi chip Nvidia NVLink-C2C.
Hal ini meningkatkan bandwidth antara GPU dan CPU hingga 7x dibandingkan dengan teknologi PCIe terbaru, memangkas konsumsi daya interkoneksi lebih dari 5x, dan menyediakan blok penyusun GPU arsitektur Hopper 600GB untuk superkomputer DGX GH200.
DGX GH200 adalah superkomputer pertama yang memasangkan Grace Hopper Superchips dengan Nvidia NVLink Switch System, interkoneksi baru yang memungkinkan semua GPU dalam sistem DGX GH200 bekerja bersama sebagai satu kesatuan. Sistem generasi sebelumnya hanya menyediakan delapan GPU untuk dipadukan dengan NVLink sebagai satu GPU tanpa mengurangi performa.
Arsitektur DGX GH200 menyediakan bandwidth NVLink 48x lebih banyak daripada generasi sebelumnya, menghadirkan kekuatan superkomputer AI yang masif dengan kemudahan memprogram satu GPU.
Google Cloud, Meta, dan Microsoft adalah yang pertama diprediksi mendapatkan akses ke DGX GH200 untuk mengeksplorasi kemampuannya untuk beban kerja AI generatif. Nvidia juga bermaksud menyediakan desain DGX GH200 sebagai cetak biru untuk penyedia layanan cloud dan hyperscaler lainnya sehingga mereka dapat menyesuaikannya lebih lanjut untuk infrastruktur mereka.
“Membangun model generatif lanjutan membutuhkan pendekatan inovatif untuk infrastruktur AI,” kata Mark Lohmeyer, wakil presiden Compute di Google Cloud. “Skala NVLink baru dan memori bersama dari Grace Hopper Superchips mengatasi hambatan utama dalam AI skala besar dan kami berharap dapat mengeksplorasi kemampuannya untuk Google Cloud dan inisiatif AI generatif kami.”
“Melatih model AI besar merupakan tugas yang memerlukan sumber daya dan waktu secara intensif,” kata Girish Bablani, wakil presiden perusahaan Infrastruktur Azure di Microsoft. “Potensi DGX GH200 untuk bekerja dengan kumpulan data berukuran terabyte akan memungkinkan pengembang untuk melakukan penelitian lanjutan pada skala yang lebih besar dan kecepatan yang terakselerasi.”
Nvidia sedang membangun superkomputer AI berbasis DGX GH200 miliknya sendiri untuk mendukung pekerjaan para peneliti dan tim pengembangannya. Superkomputer Nvidia DGX GH200 diharapkan akan tersedia pada akhir tahun ini.
Cek Berita dan Artikel yang lain di
Google News
