Chip ini dirancang khusus untuk menangani beban kerja inferensi berskala masif, termasuk model bahasa generasi terbaru GPT‑5.2 dari OpenAI serta integrasi ke layanan Microsoft 365 Copilot. Maia 200 dibangun menggunakan proses fabrikasi TSMC 3 nm, menjadikannya salah satu chip AI paling canggih saat ini.
Dengan dukungan FP8 dan FP4 tensor cores, chip ini mampu mencapai lebih dari 10 petaFLOPS (FP4) dan 5 petaFLOPS (FP8) per unit, tetap dalam batas konsumsi daya 750 watt TDP. Microsoft mengklaim performa FP4 Maia 200 tiga kali lebih tinggi dibandingkan Amazon Trainium Gen 3, sementara FP8-nya melampaui Google TPU v7.
Keunggulan lain terletak pada sistem memori. Maia 200 dilengkapi 216 GB HBM3e dengan bandwidth mencapai 7 TB/s, serta 272 MB on-chip SRAM. Kombinasi ini memungkinkan throughput token yang jauh lebih efisien, penting untuk menjalankan model bahasa besar dengan latensi rendah.
Dari sisi jaringan, Microsoft mengadopsi desain dua tingkat berbasis standar Ethernet, memungkinkan hingga 6.144 akselerator terhubung dalam satu cluster. Arsitektur ini memastikan operasi kolektif tetap konsisten dan dapat diprediksi, sekaligus menekan biaya infrastruktur.
Chip ini pertama kali diterapkan di pusat data US Central (Iowa), dengan rencana ekspansi ke US West 3 (Arizona). Microsoft juga menyediakan Maia SDK dalam versi pratinjau, lengkap dengan integrasi PyTorch, kompilator Triton, kernel teroptimasi, serta bahasa pemrograman tingkat rendah untuk pengembang.
Pendekatan pengembangan Maia 200 dilakukan secara menyeluruh sejak tahap pra-silikon. Microsoft memodelkan beban kerja LLM untuk mengoptimalkan desain silikon, jaringan, hingga perangkat lunak sistem. Hasilnya, chip ini mampu menjalankan model AI hanya beberapa hari setelah silikon pertama tiba.
Selain performa, efisiensi energi juga menjadi fokus. Maia 200 hadir dengan sistem pendingin cair generasi kedua, yang dirancang untuk menjaga suhu operasional sekaligus mengurangi konsumsi daya di skala pusat data.
Cek Berita dan Artikel yang lain di
Google News
