Produk ini diklaim sebagai tonggak penting dalam evolusi ekosistem AI, karena berfungsi layaknya sistem operasi yang mengatur sumber daya GPU dan memori di seluruh kluster komputasi.
Menurut NVIDIA, Dynamo 1.0 mampu meningkatkan performa GPU generasi terbaru Blackwell hingga 7 kali lipat dalam proses inference. Peningkatan ini tidak hanya menekan biaya per token, tetapi juga membuka peluang pendapatan lebih besar bagi jutaan GPU yang digunakan dalam layanan AI di seluruh dunia.
Dynamo hadir dengan sejumlah komponen inti, seperti KVBM untuk manajemen memori, NIXL untuk pergerakan data antar-GPU, serta Grove yang memungkinkan skala sistem lebih luas.
Selain itu, Dynamo terintegrasi secara native dengan berbagai framework open source populer, termasuk LangChain, llm-d, LMCache, SGLang, dan vLLM, sehingga memudahkan pengembang untuk mengadopsinya tanpa hambatan besar.
Adopsi Dynamo 1.0 sudah terlihat luas. Penyedia cloud besar seperti AWS, Microsoft Azure, Google Cloud, dan Oracle Cloud Infrastructure (OCI) telah mendukungnya. Sejumlah perusahaan AI-native seperti Cursor dan Perplexity, serta penyedia inference seperti Baseten, Deep Infra, dan Fireworks, juga mengintegrasikan Dynamo ke dalam layanan mereka. Bahkan perusahaan besar seperti ByteDance, PayPal, Pinterest, dan Meituan ikut memanfaatkan teknologi ini untuk memperkuat layanan berbasis AI.
Sejumlah eksekutif industri menegaskan bahwa Dynamo akan menjadi fondasi penting dalam menghadirkan sistem AI yang lebih efisien, tangguh, dan hemat biaya. Dengan kemampuan mengoptimalkan GPU dalam skala besar, Dynamo dipandang sebagai operating system for AI factories yang akan mempercepat lahirnya generasi baru aplikasi AI, termasuk sistem agentic AI yang lebih kompleks.
NVIDIA menegaskan bahwa Dynamo 1.0 sudah tersedia secara global dan dapat diakses oleh para pengembang mulai hari ini.
Cek Berita dan Artikel yang lain di
Google News
