Jakarta: Asus secara resmi mengumumkan kehadiran kartu akselerator AI terbaru, UGen Intel Arc Pro B70 32GB. Langkah ini dirancang khusus untuk memperkuat ekosistem agentic AI lokal yang kini berkembang pesat di tingkat desktop maupun workstation. Dengan kombinasi memori besar GDDR6 ECC 32 GB dan efisiensi konsumsi daya sebesar 310 W, perangkat ini menawarkan solusi efisien tanpa harus selalu bergantung pada pemrosesan berbasis cloud.
Seiring bertambah pesatnya penggunaan large language model (LLM) serta alur kerja multi-agent AI, kebutuhan akan VRAM berkapasitas besar dengan harga terjangkau menjadi semakin mendesak. Proses penalaran konteks yang panjang serta penggunaan beberapa model secara bersamaan meningkatkan konsumsi VRAM secara dramatis. Ketika kapasitas VRAM habis, data terdorong ke memori utama yang berisiko menurunkan performa inferensi hingga 90%.
Mengenai terobosan dan solusi yang ditawarkan produk ini, Asus menegaskan Kombinasi memori GDDR6 ECC 32 GB dengan optimasi arsitektur inferensi menyuguhkan opsi penerapan yang optimal untuk menjalankan AI secara lokal, privat, dan hemat biaya.
Satu unit Asus UGen B70 mampu mendukung mayoritas model AI dengan parameter di bawah 27B serta menyediakan hingga 128K token menggunakan Llama 3.1 8B. Kartu ini juga mendukung skalabilitas fleksibel, yaitu hingga 64 GB VRAM dalam konfigurasi dua kartu dan 128 GB VRAM dalam konfigurasi empat kartu untuk memenuhi kebutuhan usaha kecil menengah (SMB) hingga perusahaan besar.
Di sisi lunak, Asus UGen B70 didukung oleh ekosistem perangkat lunak yang berkembang luas, meliputi Intel LLM Scaler, vLLM XPU, llama.cpp, Ollama, Intel OpenVINO, oneAPI, PyTorch XPU, hingga ComfyUI. Dukungan ini memungkinkan akselerator menjalankan berbagai model terverifikasi seperti Llama 3.1/3.2, Qwen 3.x, DeepSeek-R1 Distill, hingga OpenAI gpt-oss. Fitur INT4/FP8 online quantization bawaan juga membantu proses optimasi model secara langsung.
Sistem multi-kartu ini diklaim akan mengurangi biaya dalam jangka panjang dibandingkan berlangganan API cloud. Sistem multi-kartu ini juga memenuhi persyaratan kepatuhan data di bidang hukum, kedokteran, pemerintahan, dan keuangan.
Perangkat ini menargetkan tiga segmen pengguna utama, yaitu pengembang independen, bisnis kecil dan studio kreatif, serta tim departemen AI perusahaan. Secara spesifikasi teknis, akselerator berbasis arsitektur GPU Intel Xe2 ini dibekali 32 Xe-Cores dan 256 XMX AI engines yang mampu menghasilkan performa komputasi AI hingga 367 TOPS. Dilengkapi antarmuka PCIe 5.0 x16 dan port DisplayPort 2.1, Asus UGen B70 menjadi fondasi kuat dalam mewujudkan agent computer lokal secara optimal.
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
