Lewat blog resminya, AMD mengumumkan hasil pengujian performa prosesor AMD Ryzen AI 300 Series yang disebut berhasil mengalahkan performa AI dari Team Blue, alias Intel, lewat kemampuan Large Language Model (LLM) yang populer digunakan saat ini.
Dikutip dari situs Tom’s Hardware, kinerja AI di prosesor AMD Ryzen AI 300 Series telah melalui serangkaian uji di LM Studio, sebuah aplikasi desktop untuk download dan hosting operasional LLM secara local.
Software tersebut dibangun pada llama.cpp code library yang memungkinkan CPU dan atau GPU untuk mengakselerasi kinerja LLM, serta menawarkan kontrol penuh fungsi dari model AI.
Menggunakan varian pengujian seperti 1b dan 3b dari Llama 3.2 Meta, Microsoft Phi 3.1 4k Mini Instruct 3b, Google Gemma 2 9b, and Mistral's Nemo 2407 12b models, laptop dengan prosesor AMD Ryzen AI 9 HX 375 diuji dan dikomparasi dengan Intel Core Ultra 7 258V.
Kedua laptop dengan masing-masing prosesor diuji dan dibandingkan pada aspek kecepatan token per detik serta akselerasi yang dihadirkan dalam menghasilkan token pertama.
Proses tersebut kira-kira sesuai dengan kata-kata yang dicetak di layar per detik dan waktu buffer antara saat prompt diajukan dan saat LLM mulai mengeluarkan output.
Menurut infografis yang dibagikan AMD terlihat bahwa AMD Ryzen AI 9 HX 375 masih lebih unggul dibandingkan Intel Core Ultra 7258V. Prosesor AMD menunjukan performa dengan kecepatan 27 persen lebih cepat dari Intel.
Belum diketahui laptop yang digunakan pada pengujian, tapi AMD menyebutkan bahwa laptop AMD yang diuji memiliki RAM yang bekerja lebih lambat dari yang laptop Intel yaitu 7500 MT/s versus 8533 MT/s.
Metrik perbandingan lain yang disajikan AMD adalah durasi untuk menyediakan token pertama pada kemampuan LLM, menandakan latensi yang dibutuhkan ketika memasukan prompt dan AI model mulai menciptakan token, semakin kecil artinya semakin cepat.
AMD Ryzen AI 9 HX 375 diperlihatkan memiliki latensi lebih rendah dari Intel diklaim punya kinerja 3,5 kali lebih cepat dibandingkan kompetitornya.
Cek Berita dan Artikel yang lain di
Google News
