Red Hat AI menyediakan platform enterprise AI untuk pelatihan model dan inferensi dengan efisiensi yang lebih baik, penggunaan yang lebih sederhana, dan fleksibilitas untuk menjalankannya di mana pun di lingkungan hybrid cloud.
Dalam upaya perusahaan untuk mengurangi biaya penerapan large language models (LLMs) dalam skala besar, mereka menghadapi tantangan dalam mengintegrasikan model-model tersebut dengan data mereka yang tersebar di berbagai lokasi, baik itu di pusat data, public cloud, maupun edge.
Red Hat AI, yang meliputi Red Hat OpenShift AI dan Red Hat Enterprise Linux AI (RHEL AI), hadir untuk mengatasi tantangan ini. Platform enterprise AI ini memungkinkan pengguna mengadopsi model yang lebih efisien dan optimal, disesuaikan dengan data bisnis spesifik, dan dapat digunakan di seluruh hybrid cloud untuk pelatihan dan inferensi pada berbagai arsitektur komputasi yang terakselerasi.
Red Hat OpenShift AI menyediakan platform AI lengkap untuk mengelola siklus hidup AI prediktif dan generatif (gen AI) di seluruh hybrid cloud, termasuk kemampuan machine learning operations (MLOps) dan LLMOps.
Platform ini memiliki fungsi untuk mengembangkan model prediktif dan menyetel model gen AI, serta tool untuk menyederhanakan pengelolaan model AI, mulai dari data science dan model pipeline hingga model monitoring dan tata kelola.
Rilis terbaru Red Hat OpenShift AI 2.18 menambahkan beberapa pembaruan dan kemampuan baru, termasuk penyajian terdistribusi (distributed serving) melalui server inferensi vLLM, penyetelan model menyeluruh dengan InstructLab dan pipeline data science, AI Guardrails untuk memonitor dan melindungi interaksi input pengguna dan output model, serta evaluasi model menggunakan komponen language model evaluation (lm-eval).
Sebagai bagian dari portofolio Red Hat AI, RHEL AI merupakan platform model dasar untuk mengembangkan, menguji, dan menjalankan LLM secara lebih konsisten untuk mendukung aplikasi enterprise. RHEL AI menyediakan tool penyelarasan model Granite LLMs dan InstructLab yang dikemas dalam bentuk image server Red Hat Enterprise Linux yang dapat di-boot dan digunakan di seluruh hybrid cloud.
RHEL AI 1.4, yang diluncurkan pada Februari 2025, menambahkan dukungan model Granite 3.1 8B, antarmuka pengguna grafis baru untuk kontribusi keterampilan dan pengetahuan, serta Document Knowledge-bench (DK-bench).
Red Hat AI InstructLab yang digunakan sebagai layanan di IBM Cloud dirancang untuk menyederhanakan, menskalakan, dan membantu meningkatkan jejak keamanan untuk pelatihan dan penerapan model AI. Dengan menyederhanakan penyetelan model InstructLab, organisasi dapat membangun model yang lebih efisien dan disesuaikan dengan kebutuhan unik mereka, sambil tetap memegang kendali atas data mereka.
Untuk mendukung organisasi di lanskap AI yang dinamis, Red Hat kini menawarkan kelas pelatihan online AI Foundations tanpa biaya.
Red Hat menyediakan dua sertifikat pembelajaran AI yang dirancang untuk para pemimpin senior berpengalaman maupun pemula di bidang AI, membantu mengedukasi pengguna di semua tingkatan mengenai bagaimana AI dapat membantu mentransformasi operasi bisnis, memudahkan pembuatan keputusan, dan mendorong inovasi.
Red Hat OpenShift AI 2.18 dan Red Hat Enterprise Linux AI 1.4 kini telah tersedia secara umum. Red Hat AI InstructLab di IBM Cloud akan segera tersedia. Pelatihan AI Foundations dari Red Hat tersedia untuk pelanggan saat ini.
Joe Fernandes, vice president dan general manager, AI Business Unit, Red Hat, menyatakan bahwa Red Hat menyadari perusahaan akan membutuhkan cara untuk mengelola biaya penerapan AI generatif yang meningkat, seiring dengan semakin banyaknya use case yang dihadirkan ke dalam produksi dan berjalan dalam skala besar.
Red Hat membantu perusahaan mengatasi tantangan tersebut dengan memungkinkan mereka memanfaatkan model yang lebih efisien, dibuat khusus dan dilatih dengan data mereka, serta memungkinkan inferensi yang fleksibel di lingkungan on-premise, cloud, maupun edge.
Cek Berita dan Artikel yang lain di
Google News
