NAI dirancang untuk mempercepat adopsi AI generatif di perusahaan dengan menyederhanakan cara pelanggan membangun, menjalankan, dan mengelola model serta layanan inferensi di edge, di pusat data, dan di cloud publik pada lingkungan Kubernetes bersertifikasi Cloud Native Computing Foundation (CNCF).
Rilis NAI terbaru ini memperluas metodologi layanan model bersama yang menyederhanakan alur kerja agentic, membantu membuat penerapan dan operasi sehari-hari menjadi lebih sederhana.
Ini merampingkan sumber daya dan model yang diperlukan untuk menerapkan berbagai aplikasi di berbagai lini bisnis dengan serangkaian model fungsional embedding, reranking, dan guardrail yang aman dan umum untuk agen. Ini dibangun di atas inti NAI, yang mencakup repositori model LLM terpusat yang menciptakan titik akhir aman yang membuat koneksi aplikasi dan agen AI generatif menjadi sederhana dan pribadi.
"Nutanix membantu pelanggan mengikuti laju inovasi yang cepat di pasar Gen AI," kata Thomas Cornely, SVP Manajemen Produk di Nutanix. "Kami telah memperluas Nutanix Enterprise AI untuk mengintegrasikan microservices NVIDIA NIM dan NeMo baru sehingga pelanggan perusahaan dapat membangun, menjalankan, dan mengelola Agen AI dengan aman dan efisien di mana saja."
"Perusahaan membutuhkan alat canggih untuk menyederhanakan pengembangan dan penerapan AI agentic di seluruh operasi mereka," kata Justin Boitano, Wakil Presiden Produk Perangkat Lunak AI Perusahaan di NVIDIA.
"Mengintegrasikan perangkat lunak NVIDIA AI Enterprise termasuk microservices NVIDIA NIM dan NVIDIA NeMo ke dalam Nutanix Enterprise AI menyediakan fondasi yang efisien untuk membangun dan menjalankan agen AI yang kuat dan aman."
NAI untuk aplikasi agentic dapat membantu pelanggan:Menerapkan Aplikasi AI Agentic dengan Titik Akhir LLM Bersama – Pelanggan dapat menggunakan kembali titik akhir model yang sudah diterapkan sebagai layanan bersama untuk beberapa aplikasi. Penggunaan kembali titik akhir model ini membantu mengurangi penggunaan komponen infrastruktur penting, termasuk GPU, CPU, memori, penyimpanan file dan objek, dan cluster Kubernetes.
Memanfaatkan Berbagai Macam Titik Akhir LLM – NAI memungkinkan berbagai layanan model agentic, termasuk model penalaran terbuka NVIDIA Llama Nemotron, NVIDIA NeMo Retriever dan NeMo Guardrails.
Pengguna NAI dapat memanfaatkan NVIDIA AI Blueprints, yang merupakan alur kerja yang telah ditentukan sebelumnya dan dapat disesuaikan, untuk memulai pengembangan aplikasi AI mereka sendiri yang memanfaatkan model NVIDIA dan microservices AI. Selain itu, NAI memungkinkan pemanggilan fungsi untuk konfigurasi dan konsumsi sumber data eksternal untuk membantu aplikasi agentic AI memberikan hasil yang lebih akurat dan detail.
Mendukung Keamanan AI Generatif – Rilis NAI baru ini akan membantu pelanggan menerapkan aplikasi agentic dengan cara yang konsisten dengan kebijakan organisasi mereka menggunakan model guardrail. Model-model ini dapat menyaring kueri awal pengguna dan respons LLM untuk mencegah output yang bias atau berbahaya dan juga dapat mempertahankan kontrol topik dan deteksi upaya jailbreak.NAI dengan dukungan model agentic kini tersedia secara umum.
Cek Berita dan Artikel yang lain di
Google News
