RHEL AI menggabungkan large language model (LLM) Granite yang berlisensi open source dari IBM Research, tools untuk model alignment dari InstructLab yang berbasis metodologi LAB (Large-scale Alignment for chatBots), dan pendekatan berbasis komunitas untuk pengembangan model melalui proyek InstructLab.
Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable, untuk penggunaan di server individual di seluruh hybrid cloud dan juga termasuk bagian dari OpenShift AI, platform machine learning operations (MLOps) hybrid dari Red Hat, untuk menjalankan model dan pengembangan InstructLab di seluruh lingkungan cluster yang tersebar.
Peluncuran ChatGPT telah menimbulkan ketertarikan sangat besar terhadap GenAI, dengan inovasi yang semakin cepat sejak saat itu. Enterprise mulai berpindah dari penilaian awal terhadap layanan GenAI ke fase pengembangan aplikasi dengan AI.
Ekosistem opsi open model yang terus berkembang pesat telah memacu inovasi AI lebih jauh dan menggambarkan bahwa tidak akan ada “satu model yang mengendalikan semua.” Pelanggan akan mendapatkan manfaat dari berbagai pilihan yang ada untuk memenuhi kebutuhan-kebutuhan spesifik, yang semuanya akan semakin dipercepat dengan pendekatan terbuka terhadap inovasi.
“GenAI merepresentasikan lompatan revolusioner bagi enterprise, namun hanya jika perusahaan teknologi mampu menjalankan dan menggunakan model AI dengan cara yang sesuai dengan kebutuhan bisnis spesifik mereka," ?kata Ashesh Badani, senior vice president dan chief product officer, Red Hat.
"RHEL AI dan proyek InstructLab, bersama dengan Red Hat OpenShift AI pada skala besar, didesain untuk menerobos hambatan yang dihadapi GenAI di seluruh hybrid cloud, mulai dari keterampilan data science yang terbatas, hingga jumlah sumber daya yang dibutuhkan, sekaligus mendorong inovasi baik saat digunakan di enterprise maupun di komunitas upstream.”
Menerapkan strategi AI membutuhkan lebih dari sekadar memilih sebuah model; perusahaan teknologi membutuhkan keahlian untuk menyempurnakan model tertentu untuk kasus penggunaan yang spesifik bagi mereka, serta mengatasi biaya yang besar dalam penerapan AI.
Untuk benar-benar menerobos hambatan dalam inovasi AI, enterprise harus bisa mengumpulkan daftar siapa saja yang bisa bekerja untuk inisiatif AI dan pada saat yang sama berusaha mengontrol biaya.
Dengan alignment tools dari InstructLab, model Granite, dan RHEL AI, Red Hat akan memberikan manfaat dari proyek open source yang sebenarnya, yaitu berupa akses gratis dan bisa digunakan kembali, transparan dan terbuka terhadap kontribusi, ke dalam GenAI sebagai upaya untuk menghilangkan penghambat tersebut.
IBM Research menciptakan teknik Large-scale Alignment for chatBots (LAB), sebuah pendekatan model alignment yang menggunakan penciptaan data sintetis yang dipandu oleh taksonomi dan tuning framework multi-fase yang baru.
Pendekatan ini menjadikan pengembangan model AI lebih terbuka dan bisa diakses oleh semua pengguna dengan mengurangi ketergantungan terhadap anotasi manusia yang mahal dan model proprietary.
Dengan menggunakan metode LAB, model bisa ditingkatkan dengan melakukan spesifikasi pada keahlian dan pengetahuan yang terkait dengan sebuah taksonomi, sehingga menghasilkan data sintetis dari informasi tersebut pada skala besar untuk memengaruhi model dan menggunakan data yang dihasilkan tersebut untuk pelatihan model.
Setelah melihat bahwa metode LAB bisa membantu memperbaiki kinerja model secara signifikan, IBM dan Red Hat memutuskan untuk meluncurkan InstructLab, komunitas open source yang dibangun di seputar metode LAB dan model Granite open source dari IBM.
Proyek InstructLab bertujuan untuk meletakkan pengembangan LLM di tangan para pengembang dengan membuat, mengembangkan, dan berkontribusi ke sebuah LLM semudah berkontribusi ke proyek open source apapun.
Sebagai bagian dari peluncuran InstructLab, IBM juga merilis satu paket Granite, sebuah code model berbahasa Inggris dan berbasis open source. Model ini diluncurkan di bawah lisensi Apache dengan transparansi pada dataset yang digunakan untuk melatih model tersebut. Model Granite 7B telah diintegrasikan ke dalam komunitas InstructLab.
Pengguna akhir bisa menyumbangkan keahlian dan pengetahuan mereka untuk menyempurnakan model tersebut secara kolektif, seperti yang mereka lakukan untuk proyek open source lain. Dukungan yang sama untuk code model Granite di InstructLab akan segera tersedia.
Red Hat Enterprise Linux AI kini tersedia sebagai pratinjau pengembang. Dibangun di atas infrastruktur GPU yang tersedia di IBM Cloud, yang digunakan untuk melatih model Granite dan mendukung InstructLab, IBM Cloud kini akan menambahkan dukungan untuk RHEL AI dan OpenShift AI. Integrasi ini akan memungkinkan enterprise untuk menjalankan AI generatif dengan lebih mudah ke dalam aplikasi penting mereka.
Cek Berita dan Artikel yang lain di
Google News
