Dibangun di atas model Llama, keluarga penalaran NVIDIA Llama Nemotron menghadirkan kemampuan penalaran AI sesuai permintaan. NVIDIA meningkatkan keluarga model penalaran baru ini selama pasca-pelatihan untuk meningkatkan matematika multi-langkah, pengkodean, penalaran, dan pengambilan keputusan kompleks.
Proses penyempurnaan ini meningkatkan akurasi model hingga 20% dibandingkan dengan model dasar dan mengoptimalkan kecepatan inferensi hingga 5x dibandingkan dengan model penalaran terbuka terkemuka lainnya. Peningkatan dalam kinerja inferensi berarti model dapat menangani tugas penalaran yang lebih kompleks, meningkatkan kemampuan pengambilan keputusan, dan mengurangi biaya operasional untuk perusahaan.
Pionir Platform Agen AI Bekerja Sama dengan NVIDIA
Perusahaan-perusahaan terkemuka seperti Accenture, Amdocs, Atlassian, Box, Cadence, CrowdStrike, Deloitte, IQVIA, Microsoft, SAP, dan ServiceNow berkolaborasi dengan NVIDIA dalam model dan perangkat lunak penalaran barunya.
"Adopsi penalaran dan agen AI sangat luar biasa," kata Jensen Huang, pendiri dan CEO NVIDIA. "Model, perangkat lunak, dan alat penalaran terbuka NVIDIA memberikan blok bangunan kepada pengembang dan perusahaan di mana pun untuk menciptakan tenaga kerja agen AI yang dipercepat."
Dibangun untuk menghadirkan penalaran AI siap produksi, keluarga model Llama Nemotron tersedia sebagai NVIDIA NIM microservices dalam ukuran Nano, Super, dan Ultra - masing-masing dioptimalkan untuk kebutuhan penyebaran yang berbeda.
Model Nano memberikan akurasi tertinggi pada PC dan perangkat edge, model Super menawarkan akurasi terbaik dan throughput tertinggi pada satu GPU, dan model Ultra akan memberikan akurasi agen maksimum pada server multi-GPU.
NVIDIA melakukan pasca-pelatihan ekstensif di DGX Cloud menggunakan data sintetis berkualitas tinggi yang dikurasi yang dihasilkan oleh Nemotron dan model terbuka lainnya, serta kumpulan data yang dikurasi tambahan yang dibuat bersama.
Alat, kumpulan data, dan teknik optimisasi pasca-pelatihan yang digunakan untuk mengembangkan model akan tersedia secara terbuka, memberikan fleksibilitas kepada perusahaan untuk membangun model penalaran khusus mereka sendiri.
Pemimpin industri platform AI agentic bekerja dengan model penalaran Llama Nemotron untuk memberikan penalaran canggih kepada perusahaan. Microsoft mengintegrasikan model penalaran Llama Nemotron dan NIM microservices ke dalam Microsoft Azure AI Foundry. Ini memperluas katalog model Azure AI Foundry dengan opsi bagi pelanggan untuk meningkatkan layanan seperti Azure AI Agent Service untuk Microsoft 365.
SAP memanfaatkan model Llama Nemotron untuk memajukan solusi SAP Business AI dan Joule, kopilot AI dari SAP. Selain itu, mereka menggunakan NVIDIA NIM dan NVIDIA NeMo microservices untuk meningkatkan akurasi penyelesaian kode untuk model bahasa pemrograman SAP ABAP.
Accenture telah membuat model penalaran Llama Nemotron tersedia di platform AI Refinery-nya - termasuk solusi agen industri baru yang diumumkan hari ini untuk memungkinkan klien mengembangkan dan menerapkan agen AI khusus yang disesuaikan dengan tantangan khusus industri dengan cepat, mempercepat transformasi bisnis.
Deloitte berencana untuk memasukkan model penalaran Llama Nemotron ke dalam platform AI agentic Zora yang baru-baru ini diumumkan yang dirancang untuk mendukung dan meniru pengambilan keputusan dan tindakan manusia dengan agen yang mencakup pengetahuan bisnis fungsional dan industri-spesifik yang mendalam dan transparansi bawaan.
AI Enterprise Menyediakan Alat Penting untuk AI Agentic
Pengembang dapat menggunakan model penalaran Llama Nemotron dengan alat dan perangkat lunak AI agentic NVIDIA baru untuk menyederhanakan adopsi penalaran canggih dalam sistem AI kolaboratif.
Dibangun dengan NVIDIA NIM microservices, cetak biru ini mengintegrasikan NVIDIA NeMo Retriever untuk pengambilan informasi multimodal dan memungkinkan koneksi agen dan data, optimisasi, dan transparansi menggunakan toolkit NVIDIA AgentIQ open-source.
Model NVIDIA Llama Nemotron Nano dan Super serta NIM microservices tersedia sebagai application programming interface (API) yang dihosting dari build.nvidia.com dan Hugging Face. Akses untuk pengembangan, pengujian, dan penelitian gratis untuk anggota Program Pengembang NVIDIA.
Perusahaan dapat menjalankan Llama Nemotron NIM microservices dalam produksi dengan NVIDIA AI Enterprise di pusat data dan infrastruktur cloud yang dipercepat. Pengembang dapat mendaftar untuk diberi tahu ketika NVIDIA NeMo microservices tersedia untuk umum. NVIDIA AI-Q Blueprint diharapkan tersedia pada bulan April. Toolkit NVIDIA AgentIQ tersedia sekarang di GitHub.
Cek Berita dan Artikel yang lain di
Google News
