Seiring berkembangnya model AI dengan triliunan parameter dan kemampuan penalaran multilangkah, muncul tantangan besar dalam mengelola data konteks yang dihasilkan. Data tersebut biasanya disimpan dalam bentuk key-value (KV) cache, yang sangat penting untuk menjaga akurasi, pengalaman pengguna, dan kesinambungan interaksi.
Namun, penyimpanan jangka panjang di GPU menimbulkan hambatan besar bagi performa real-time, terutama dalam sistem multi-agent. BlueField-4 hadir sebagai solusi dengan memperluas kapasitas memori GPU, memungkinkan berbagi data berkecepatan tinggi antar node, serta meningkatkan kecepatan pemrosesan token dan efisiensi daya hingga lima kali lipat dibandingkan penyimpanan tradisional.
Platform baru ini menghadirkan kemampuan untuk mempercepat respons multi-turn, meningkatkan throughput pada skala pabrik AI, dan mendukung efisiensi dalam inference jangka panjang. Dengan dukungan perangkat lunak seperti NVIDIA DOCA, NIXL, dan Dynamo, sistem ini mampu mempercepat waktu respons, mengurangi overhead metadata, serta menjamin akses aman dari node GPU.
Selain itu, jaringan berperforma tinggi NVIDIA Spectrum-X Ethernet digunakan sebagai fabric utama untuk akses RDMA ke cache AI-native, sehingga proses berbagi dan pengambilan data menjadi lebih efisien.
Sejumlah perusahaan besar di bidang penyimpanan seperti Dell Technologies, HPE, IBM, Nutanix, Pure Storage, Supermicro, VAST Data, dan WEKA telah bergabung untuk membangun platform penyimpanan AI generasi berikutnya dengan BlueField-4. Produk ini dijadwalkan tersedia pada paruh kedua tahun 2026, menandai kesiapan industri dalam menghadapi era baru komputasi berbasis AI.
CEO NVIDIA, Jensen Huang, menegaskan bahwa AI kini bukan lagi sekadar chatbot satu kali pakai, melainkan kolaborator cerdas yang mampu memahami dunia fisik, bernalar dalam jangka panjang, menggunakan alat untuk bekerja nyata, serta menyimpan memori jangka pendek dan panjang. Dengan BlueField-4, NVIDIA mengklaim telah merevolusi tumpukan penyimpanan untuk era AI berikutnya.
Cek Berita dan Artikel yang lain di
Google News
