NVIDIA telah meluncurkan solusi terbarunya yang menggabungkan NeMo Microservices dan Project G-Assist Plug-In Builder untuk mengoptimalkan kinerja AI agen dan pengalaman pengguna di PC. Teknologi ini dirancang tidak hanya untuk meningkatkan kecepatan dan akurasi penyelesaian tugas, tetapi juga untuk menjadikan interaksi antara manusia dan mesin semakin harmonis.
NeMo Microservices hadir sebagai platform segala-guna untuk membangun dan mengelola AI agen di lingkungan perusahaan. Platform ini menawarkan serangkaian alat end-to-end mulai dari penyusunan data, kostumisasi, evaluasi, hingga pengawasan kinerja model.
Dengan memanfaatkan layanan seperti NeMo Customizer, Evaluator, dan Guardrails, para pengembang dapat melakukan penyesuaian model bahasa besar (large language model) secara efisien.
NeMo Customizer memungkinkan pelatihan dengan throughput yang lebih tinggi hingga 1,8 kali lipat dibandingkan solusi sebelumnya, sementara NeMo Evaluator menyederhanakan evaluasi model hanya melalui beberapa panggilan API.
Fitur NeMo Guardrails sendiri meningkatkan perlindungan kepatuhan dengan latensi yang minimal, sehingga memastikan bahwa integrasi keamanan dan kebijakan tetap terjaga tanpa mengorbankan kinerja.
Salah satu kekuatan utama dari NeMo Microservices adalah konsep data flywheel. Data flywheel merupakan mekanisme yang mengumpulkan masukan berkualitas tinggi dari berbagai sumber seperti basis data, interaksi pengguna, dan sinyal dunia nyata. Dengan memasukkan data dari berbagai aliran tersebut, AI agen dapat terus belajar dan menyesuaikan diri dengan pola data yang berkembang secara otomatis.
Tanpa aliran data yang konsisten dan relevan, pemahaman AI terhadap konteks bisnis dapat menurun, sehingga respons yang diberikan menjadi kurang dapat diandalkan. Oleh karena itu, dengan memanfaatkan data flywheel, NeMo memastikan bahwa AI agen selalu beradaptasi, menjadikan masing-masing interaksi sebagai sumber pembelajaran untuk meningkatkan akurasi dan efisiensi kerja.
Tidak hanya itu, kerja sama dengan sejumlah pionir industri turut memperkuat ekosistem ini. Misalnya, AT&T memanfaatkan NeMo Microservices untuk membangun AI agen yang dapat memproses ribuan dokumen dengan pembaruan data secara mingguan. Hasilnya, akurasi agen meningkat hingga 40% berkat optimasi menggunakan teknologi fine-tuning dari NeMo.
Perusahaan-perusahaan besar lainnya seperti BlackRock, Cisco, dan Nasdaq juga telah mengintegrasikan teknologi ini ke dalam ekosistem mereka untuk mengatasi berbagai tugas seperti deteksi penipuan, layanan pelanggan yang dipersonalisasi, dan pemeliharaan prediktif mesin.
Di sisi lain, NVIDIA juga meluncurkan Project G-Assist, sebuah asisten AI yang terintegrasi pada sistem GeForce RTX untuk meningkatkan pengalaman pengguna di PC. G-Assist dirancang untuk menyederhanakan navigasi berbagai pengaturan sistem, monitor kinerja, dan mengelola perangkat yang terhubung melalui perintah suara atau teks. Berbeda dengan asisten digital biasa, G-Assist menawarkan fleksibilitas dengan dukungan plug-in khusus yang dapat dikembangkan oleh para pengembang maupun penggemar teknologi.
Dengan hadirnya ChatGPT-based Plug-In Builder, pengguna kini dapat dengan mudah merancang dan menyesuaikan plug-in untuk G-Assist. Proses pembuatan plug-in ini didukung oleh konfigurasi berbasis format JSON serta skrip Python yang sederhana.
Beberapa contoh plug-in yang telah tersedia meliputi kontrol musik, notifikasi streaming secara langsung, pengecekan harga saham real-time, hingga pembaruan cuaca. Plug-in ringan ini memungkinkan pengguna untuk menyesuaikan fungsionalitas sesuai kebutuhan spesifik, seperti pengaturan kinerja sistem secara otomatis atau mengontrol perangkat periferal seperti lampu LED dari merek-merek terkemuka.
Dukungan terhadap ratusan API gratis juga membuka peluang bagi para pengembang untuk menggabungkan teknologi dari berbagai layanan eksternal. Melalui integrasi ini, G-Assist tidak hanya berfungsi sebagai alat bantu dalam menyelesaikan tugas sehari-hari, tetapi juga sebagai platform untuk eksperimen kreatif yang bisa menghasilkan solusi AI terpersonalisasi.
Ke depan, kedua inovasi ini berpotensi membuka era baru dalam integrasi AI di berbagai sektor industri. Dengan menggabungkan keunggulan NeMo Microservices untuk pengembangan agen digital dan fleksibilitas G-Assist dalam mengoptimalkan pengalaman pengguna PC, perusahaan dapat menikmati peningkatan efisiensi operasional secara signifikan.
Cek Berita dan Artikel yang lain di
Google News