Upgrade ini memanfaatkan 96GB memori grafik variabel pada Ryzen AI Max+ 395 (128GB), memperluas kapasitas untuk beban kerja AI di Windows. Driver preview dan LM Studio sudah dibuka untuk publik, tanpa perlu perangkat tambahan.
Driver Adrenalin Edition 25.8.1 membuat Ryzen AI Max+ 395 (128GB) menjadi prosesor PC Windows pertama yang dapat menjalankan Meta’s Llama 4 Scout 109B dengan dukungan visi penuh dan Multi-Context Processing (MCP).
Melalui llama.cpp, prosesor ini mendukung model mulai dari 1 miliar parameter hingga Mistral Large, lengkap dengan opsi kuantisasi fleksibel via GGUF hingga 16-bit. Meta Llama 4 Scout memuat 109 miliar parameter di memori, namun hanya mengaktifkan 17 miliar pada satu waktu berkat desain mixture-of-experts. Hasilnya, pengguna dapat menikmati hingga 15 token per detik, menciptakan asisten AI yang responsif untuk penggunaan mobile.
Pengguna dapat beralih antar model untuk memprioritaskan kecepatan atau kualitas. Model berparameter lebih tinggi meningkatkan akurasi output, sedangkan kuantisasi yang diperbesar menambah detail dengan pengorbanan performa. Kapasitas memori besar pada platform ini memastikan transisi mulus di berbagai skenario penggunaan.
Satu fitur unggulan adalah panjang konteks ekstra-luas hingga 256.000 token (Flash Attention aktif, KV Cache Q8 menyala). Kemampuan ini membuka peluang untuk alur kerja agenik kompleks seperti Retrieval-Augmented Generation dan tool calling.
Sebuah demo AMD memperlihatkan bagaimana LLM merangkum laporan kuartal SEC EDGAR sebanyak 19.642 token dan makalah kosmologi arXiv berisi 21.445 token—tugas yang mustahil ditangani jendela konteks standar 4.096 token.
Ryzen AI Max+ (128GB) sudah tersedia melalui mitra resmi seperti ASUS ROG Flow Z13, HP ZBook Ultra G1a, Corsair AI Workstation 300, HP Z2 Mini G1a, dan Framework Desktop. Perangkat ini menegaskan komitmen AMD menghadirkan AI canggih di PC tipis.
AMD memperingatkan bahwa menjalankan LLM secara lokal bisa menghasilkan perilaku tak terduga. Pengguna disarankan hanya memasang implementasi dari sumber tepercaya dan menjalankan dengan hati-hati, karena memuat model besar di perangkat lokal juga menuntut tanggung jawab tinggi dalam hal keamanan dan privasi data.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
