AMD Instinct adalah produk GPU AMD yang dirancang sebagai akselerator pada high-perfomance (HPC) dan artificial intelligence (AI). AMD Instinct MI300X bersama prosesor dan software AI Ryzen serta akselerator media Alvem MA35D menunjukan performanya untuk solusi AI dari Microsoft Azure.
Mesin virtual (VM) Microsoft Azure ND MI300X yang baru kini tersedia untuk umum memberikan pelanggan seperti Hugging Face, akses ke kinerja dan efisiensi yang mengesankan untuk beban kerja AI yang berat sekalipun.
“Software AMD Instinct MI300X dan ROCm mendukung layanan Azure OpenAI Chat GPT
3.5 dan 4, yang merupakan salah satu beban kerja AI yang paling menuntut di dunia,” ujar
Victor Peng, President AMD.
“Dengan ketersediaan untuk umum mesin virtual baru dari Azure, pelanggan AI memiliki akses yang lebih luas ke MI300X untuk memberikan solusi berkinerja tinggi dan efisien untuk aplikasi A,” tuturnya.
Pertama diumumkan bulan November tahun lalu, layanan virtual machine Azure ND MI300x
v5 kini tersedia di wilayah Kanada Tengah bagi pelanggan untuk menjalankan beban kerja AI
mereka.
Menawarkan kinerja terdepan di industri, virtual machine tersebut dijanjikan mampu menyediakan kapasitas HBM dan bandwidth memori yang mengesankan, memungkinkan pelanggan untuk memasukkan model yang lebih besar ke dalam memori GPU dan/atau menggunakan lebih sedikit GPU.
Hasilnya, pelanggan atau pengguna mendapatkan benefit berupa hemat daya, biaya, dan waktu dalam penyelesaian solusi. Virtual machine dan software ROCm juga telah digunakan untuk mengolah beban kerja Azure AI Production, termasuk Azure OpenAI Service.
“Selama beberapa waktu terakhir, kami menyadari pentingnya menggabungkan hardware komputasi yang kuat dengan optimasi sistem dan software yang diperlukan untuk memberikan kinerja dan nilai AI yang luar biasa,” tutur Kevin Scott, CTO and Executive VP of AI Microsoft.
“Bersama AMD, kami telah mencapai hal ini melalui penggunaan ROCm dan MI300X, memberdayakan pelanggan dan pengembang AI Microsoft untuk mencapai hasil kinerja harga yang luar biasa untuk model frontier paling canggih dan intensif komputasi,” ungkapnya.
Selain itu, developer dapat menggunakan software AMD Ryzen AI untuk mengoptimalkan dan menerapkan inferensi AI pada PC yang didukung AMD Ryzen AI.
Software Ryzen AI memungkinkan aplikasi berjalan pada unit pemrosesan saraf (NPU) yang dibangun pada arsitektur AMD XDNA, silikon pemrosesan AI khusus pertama pada prosesor Windows x86.
Meskipun menjalankan model AI pada CPU atau GPU saja dapat menguras baterai dengan cepat, dengan laptop yang ditenagai oleh Ryzen AI, model AI beroperasi pada NPU yang tertanam, sehingga membebaskan sumber daya CPU dan GPU untuk tugas komputasi lainnya.
Microsoft juga memilih media akselerator AMD Alveo MA35D dari AMD untuk mendukung beban kerja video streaming langsung yang besar, termasuk Microsoft Teams, video SharePoint, dan lainnya.
Dibuat khusus untuk mendukung layanan streaming interaktif langsung dalam skala besar, Alveo MA35D akan membantu Microsoft memastikan pengalaman video berkualitas tinggi dengan menyederhanakan beban kerja pemrosesan video, termasuk transcoding, decoding, pengkodean, dan streaming bitrate adaptif (ABR) video.
Cek Berita dan Artikel yang lain di
Google News
