Dalam pekerjaan komputasi tugas berat seperti pemodelan cuaca, dinamika fluida komputasi, dan jenis AI tertentu, ketidakcocokan ini dapat menciptakan kemacetan — hingga saat ini.
Setelah beberapa tahun pengembangan dengan mitra industri, para insinyur Intel telah menemukan jalan untuk membuka kemacetan itu, membuat solusi baru yang telah menciptakan memori sistem tercepat yang pernah ada dan diatur untuk menjadi standar industri terbuka baru.
Prosesor pusat data Intel Xeon 6 yang baru-baru ini diperkenalkan adalah yang pertama mendapat manfaat dari memori baru ini, yang disebut MRDIMM, untuk kinerja yang lebih tinggi — dengan cara yang paling fleksibel.
Bhanu Jaiswal, manajer produk Xeon di grup Data Center dan AI (DCAI) Intel, menjelaskan bahwa persentase yang signifikan dari beban kerja komputasi berkinerja tinggi terikat bandwidth memori, jenis yang paling banyak akan mendapatkan manfaat dari MRDIMM.
Kedengarannya hampir terlalu bagus untuk menjadi kenyataan — inilah cerita di balik DDR5 Multiplexed Rank Dual Inline Memory Module, atau MRDIMM untuk efisiensi bercerita.
Membawa Paralelisme ke Memori Sistem
Ternyata modul memori yang paling umum digunakan untuk pekerjaan pusat data, yang dikenal sebagai RDIMM, memang memiliki sumber daya paralel di papan, seperti yang dilakukan prosesor modern. Mereka hanya tidak digunakan seperti itu.
"Sebagian besar DIMM memiliki dua peringkat untuk kinerja dan kapasitas," kata George Vergis, seorang insinyur utama senior dalam pencarian jalur memori di DCAI. "Ini adalah sweet spot."
Anda dapat memikirkan peringkat seperti, yah, bank – satu set chip memori pada modul akan menjadi milik satu dan sisanya ke peringkat lainnya. Dengan RDIMM, data dapat disimpan dan diakses di berbagai peringkat secara independen tetapi tidak secara bersamaan.
Mempertimbangkan situasi ini, kenang Vergis, "Kami seperti, 'Tunggu sebentar. Kami memiliki sumber daya paralel yang tidak digunakan. Mengapa kita tidak bisa menyatukannya?'" Ide yang dikejar Vergis adalah untuk menempatkan chip antarmuka kecil – multiplexer atau "mux" – pada modul DRAM. Ini memungkinkan data mengalir melintasi kedua peringkat memori dalam waktu yang sama.
Penyangga mux mengkonsolidasikan setiap beban listrik MRDIMM, yang memungkinkan antarmuka beroperasi pada kecepatan yang lebih tinggi dibandingkan dengan RDIMM. Dan sekarang kedua peringkat memori dapat diakses secara paralel, bandwidthnya telah berlipat ganda.
Hasilnya adalah memori sistem tercepat yang pernah dibuat – dengan lompatan yang biasanya membutuhkan beberapa generasi teknologi memori untuk dicapai (dalam hal ini, bandwidth puncak meningkat hampir 40%, dari 6.400 megatransfer per detik (MT/s) menjadi 8.800 MT/s).
Modul Memori Standar yang Sama, Hanya Lebih Cepat
Pada titik ini Anda mungkin memiliki pertanyaan "tunggu sebentar" sendiri: Apakah Intel kembali ke bisnis memori? Tidak. Meskipun Intel dimulai sebagai perusahaan memori dan menemukan teknologi termasuk EPROM dan DRAM, perusahaan telah keluar dari berbagai bisnis produk memorinya selama sejarahnya (beberapa cukup terkenal).
Tetapi Intel tidak pernah menghentikan upaya yang membuat komponen komputasi yang berbeda dapat dioperasikan dan berkinerja lebih tinggi. Vergis mewakili Intel di dewan JEDEC, yang menetapkan standar terbuka untuk industri mikroelektronika, terutama untuk memori.
Vergis mendapatkan penghargaan JEDEC pada tahun 2018 untuk karyanya pada standar DDR5, dan saat ini dia mencurahkan waktu untuk DDR6. Vergis dan rekan-rekannya memulai pekerjaan ini pada tahun 2018 dan membuktikan konsepnya dengan prototipe pada tahun 2021. Intel bekerja sama dengan ekosistem memori untuk membangun komponen pertama, dan menyumbangkan spesifikasi ke JEDEC sebagai standar terbuka baru pada akhir tahun 2022.
Yang menonjol dari MRDIMM adalah kemudahan penggunaannya. Ini menggunakan konektor dan faktor bentuk yang sama dengan RDIMM biasa (bahkan chip mux kecil pas di tempat kosong sebelumnya pada modul), sehingga tidak memerlukan perubahan pada motherboard.
MRDIMM juga membawa semua fitur koreksi kesalahan dan keandalan, ketersediaan, dan kemudahan servis (RAS) yang sama dengan RDIMM. Integritas data dipertahankan tidak peduli bagaimana permintaan terpisah dapat dimultipleks di seluruh buffer data, Vergis menjelaskan.
Ini semua berarti pelanggan pusat data dapat memilih MRDIMM ketika mereka memesan server baru, atau nanti mereka dapat menggeser server itu keluar dari rak dan menukar RDIMM dengan MRDIMM baru. Tidak ada satu baris kode pun yang perlu diubah untuk menikmati kinerja yang baru ditemukan.
Yang dibutuhkan adalah CPU yang dapat bekerja dengan MRDIMM, dan yang pertama tersedia adalah prosesor Intel Xeon 6 dengan Performance-core, dengan nama kode Granite Rapids, yang datang ke pasar tahun ini.
Tes independen baru-baru ini membandingkan dua sistem Xeon 6 yang identik, satu dengan MRDIMM dan yang lainnya dengan RDIMM. Sistem dengan MRDIMM menyelesaikan pekerjaan sebanyak 33% lebih cepat.
Jaiswal mengatakan peningkatan bandwidth yang diberikan MRDIMM sangat berlaku untuk model bahasa kecil dan pembelajaran mendalam tradisional dan jenis sistem rekomendasi beban kerja AI yang dapat dengan mudah berjalan di Xeon dan mencapai peningkatan kinerja yang baik dengan MRDIMM.
Vendor memori terkemuka telah memperkenalkan MRDIMM, dengan pembuat memori tambahan diharapkan untuk meluncurkan lebih banyak. Laboratorium komputasi berkinerja tinggi – seperti Institut Nasional untuk Sains dan Teknologi Kuantum dan Institut Nasional untuk Ilmu Fusi, antara lain – secara aktif mengadopsi Xeon 6 dengan P-core karena MRDIMM, dengan dukungan dari OEM seperti NEC.
"Intel pasti memiliki keunggulan," kata Jaiswal, "didukung oleh ekosistem OEM dan vendor memori yang kuat."
Cek Berita dan Artikel yang lain di
Google News
