Project Digits menampilkan NVIDIA GB10 Grace Blackwell Superchip baru, menawarkan performa komputasi AI yang sangat besar untuk pembuatan prototipe, penyempurnaan, dan menjalankan model AI besar.
Dengan Project Digits, pengguna dapat mengembangkan dan menjalankan inferensi pada model menggunakan sistem desktop mereka sendiri, lalu menerapkan model dengan mulus pada infrastruktur cloud atau pusat data yang dipercepat.
"AI akan menjadi arus utama di setiap aplikasi untuk setiap industri. Dengan Project Digits, Grace Blackwell Superchip hadir untuk jutaan pengembang," kata Jensen Huang, pendiri dan CEO NVIDIA. "Menempatkan superkomputer AI di meja setiap ilmuwan data, peneliti AI, dan siswa memberdayakan mereka untuk terlibat dan membentuk era AI."
GB10 Superchip adalah system-on-a-chip (SoC) berdasarkan arsitektur NVIDIA Grace Blackwell dan memberikan kinerja AI hingga 1 petaflop pada presisi FP4.
GB10 dilengkapi GPU NVIDIA Blackwell dengan inti CUDA generasi terbaru dan Tensor Core generasi kelima, terhubung melalui interkoneksi chip-to-chip NVLink-C2C ke CPU NVIDIA Grace yang mencakup 20 inti hemat daya yang dibangun dengan arsitektur Arm. MediaTek, pemimpin pasar dalam desain SoC berbasis Arm, berkolaborasi dalam desain GB10, berkontribusi pada efisiensi, kinerja, dan konektivitas daya terbaik di kelasnya.
GB10 Superchip memungkinkan Project Digits untuk memberikan kinerja yang kuat hanya dengan menggunakan stopkontak listrik standar. Setiap Project Digits memiliki memori terpadu dan koheren 128GB dan penyimpanan NVMe hingga 4TB.
Dengan superkomputer, pengembang dapat menjalankan model bahasa besar hingga 200 miliar parameter untuk meningkatkan inovasi AI. Selain itu, dengan menggunakan jaringan ConnectX, dua superkomputer Project Digits AI dapat dihubungkan untuk menjalankan model hingga 405 miliar parameter.
Dengan arsitektur Grace Blackwell, perusahaan dan peneliti dapat membuat prototipe, menyempurnakan, dan menguji model pada sistem Project Digits lokal yang menjalankan DGX OS berbasis Linux, dan kemudian menerapkannya dengan mulus di DGX Cloud, instans cloud yang dipercepat, atau infrastruktur pusat data.
Hal ini memungkinkan pengembang untuk membuat prototipe AI pada Project Digits dan kemudian menskalakan pada infrastruktur cloud atau pusat data, menggunakan arsitektur Grace Blackwell yang sama dan platform perangkat lunak NVIDIA AI Enterprise.
Pengguna Project Digits dapat mengakses perpustakaan ekstensif perangkat lunak NVIDIA AI untuk eksperimen dan pembuatan prototipe, termasuk kit pengembangan perangkat lunak, alat orkestrasi, kerangka kerja, dan model yang tersedia di katalog NGC dan di portal developer NVIDIA. Pengembang dapat menyempurnakan model dengan kerangka kerja NVIDIA NeMo, mempercepat ilmu data dengan pustaka RAPIDS, dan menjalankan kerangka kerja umum seperti notebook PyTorch, Python, dan Jupyter.
Untuk membangun aplikasi AI agen, pengguna juga dapat memanfaatkan NVIDIA Blueprints dan layanan mikro NIM, yang tersedia untuk penelitian, pengembangan, dan pengujian melalui Program Pengembang NVIDIA. Ketika aplikasi AI siap untuk beralih dari eksperimen ke lingkungan produksi, lisensi AI Enterprise menyediakan keamanan, dukungan, dan rilis produk perangkat lunak NVIDIA AI tingkat perusahaan.
Cek Berita dan Artikel yang lain di
Google News
