Kemitraan ini bertujuan untuk memberikan lebih banyak pilihan kepada pelanggan, mulai dari penerapan model AI yang efisien hingga modernisasi Virtual Machine (VM) tradisional dengan biaya yang lebih efektif.
Permintaan akan beban kerja yang beragam dan intensif, terutama dengan munculnya AI, terus meningkat. Data center tradisional seringkali tidak memiliki kapasitas yang cukup untuk mendukung beban kerja berat seperti AI. Untuk mengatasi tantangan ini, Red Hat dan AMD menggabungkan solusi open source Red Hat dengan arsitektur komputasi berkinerja tinggi AMD.
Kolaborasi ini berfokus pada dua area utama: AI generatif yang lebih efisien dan transformasi data center modern. Dalam hal AI generatif, Red Hat AI akan dipadukan dengan portofolio prosesor berbasis x86 dan arsitektur GPU AMD untuk menciptakan lingkungan yang dioptimalkan dan hemat biaya untuk beban kerja AI.
GPU AMD Instinct kini sepenuhnya diaktifkan pada Red Hat OpenShift AI, memberikan daya pemrosesan performa tinggi untuk penerapan AI di seluruh cloud hybrid. Selain itu, pengujian inferensi AI untuk model bahasa kecil (SLM) dan model bahasa besar (LLM) telah berhasil dilakukan di Microsoft Azure ND MI300X v5 menggunakan GPU AMD Instinct MI300X dengan Red Hat Enterprise Linux AI.
Red Hat dan AMD juga berkolaborasi dalam komunitas vLLM untuk meningkatkan performa inferensi AI pada GPU AMD. Ini termasuk peningkatan performa melalui upstreaming kernel AMD dan optimalisasi komponen seperti kernel Triton dan FP8, dukungan multi-GPU yang ditingkatkan, dan keterlibatan ekosistem vLLM yang diperluas.
GPU AMD Instinct akan mendukung Red Hat AI Inference Server, distribusi vLLM kelas perusahaan dari Red Hat, untuk server inferensi AI yang tangguh, andal, dan dapat diskalakan. CPU AMD EPYC juga akan digunakan untuk hosting sistem yang mendukung GPU, meningkatkan kinerja dan ROI server GPU.
Dalam hal transformasi data center modern, Red Hat OpenShift Virtualization pada CPU AMD EPYC akan membantu organisasi memigrasikan dan mengelola beban kerja VM dengan lebih efisien.
Ini akan memungkinkan konsolidasi VM dan aplikasi yang dikontainerisasi di lokasi, di cloud publik, atau di seluruh cloud hybrid, mengurangi total biaya kepemilikan (TCO) dan membebaskan sumber daya untuk beban kerja AI.
Kolaborasi ini diharapkan dapat memberikan kinerja dan efisiensi yang dibutuhkan pelanggan untuk mempercepat inovasi AI, virtualisasi, dan cloud hybrid.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
