Huawei menyebut Atlas 960E sebagai SuperPoD pertama di industri yang menggunakan Near-Packaged Optics (NPO). Sistem tersebut menggabungkan prosesor AI Ascend dengan teknologi interkoneksi optik Hi-ONE dan arsitektur UnifiedBus untuk menghubungkan sejumlah besar unit pemrosesan dalam satu sistem komputasi.
Menurut Huawei, rancangan tersebut ditujukan untuk menghadapi kebutuhan komputasi model AI yang terus meningkat. Huawei memperkirakan model foundation AI mendekati skala 10 triliun parameter dan dapat melampaui 100 triliun parameter pada tahun 2030.
Atlas 960E Dukung hingga 4.096 NPU
Atlas 960E SuperPoD menggunakan arsitektur yang memungkinkan berbagai komponen komputasi terhubung melalui UnifiedBus dengan mekanisme unified memory addressing. Pendekatan ini memungkinkan sejumlah node fisik beroperasi lebih menyerupai satu sistem komputasi terpadu.Dalam konfigurasi maksimal, satu Atlas 960E SuperPoD dapat menampung hingga 4.096 NPU dan menghasilkan performa hingga 8 EFLOPS pada FP8 serta 16 EFLOPS pada FP4. Huawei juga menyebut sistem tersebut dapat menyediakan hingga 1 petabyte kapasitas HBM.
Huawei merancang Atlas 960E dengan sistem pendingin cair sepenuhnya serta arsitektur orthogonal. Rancangan tersebut ditujukan untuk menjaga kepadatan komputasi sekaligus mendukung komunikasi berkecepatan tinggi antarunit pemrosesan.
Kebutuhan komunikasi menjadi salah satu persoalan utama ketika jumlah akselerator AI dalam satu sistem terus bertambah. Pada sistem tradisional, komunikasi antarkomponen dapat menjadi sumber penggunaan daya dan latensi yang signifikan.
Huawei menyatakan simulasi internalnya menunjukkan cluster 100.000 NPU yang dibangun menggunakan SuperPoD 4.000 NPU dapat mencapai 2,75 kali MFU (Model FLOPs Utilization) dibandingkan dengan cluster dengan server berisi delapan NPU.
Angka tersebut merupakan hasil simulasi Huawei, sehingga tidak dapat diperlakukan sebagai hasil benchmark independen terhadap sistem komersial.
Hi-ONE Kurangi Kebutuhan Modul Optik
Salah satu komponen penting Atlas 960E adalah Hi-ONE, mesin interkoneksi optik berbasis Near-Packaged Optics. Huawei menyebut Hi-ONE memiliki kapasitas transmisi hingga 7,2 Tbit/s untuk setiap unit dan menjadi produk NPO yang diproduksi secara massal dengan sumber cahaya terintegrasi.NPO merupakan pendekatan interkoneksi yang menempatkan komponen optik lebih dekat dengan perangkat pemrosesan. Teknologi tersebut ditujukan untuk mengatasi peningkatan kebutuhan bandwidth dalam sistem komputasi berukuran besar.
Atlas 960E menggunakan sekitar 5.500 unit Hi-ONE. Huawei menyatakan konfigurasi tersebut memungkinkan sistem menghindari penggunaan sekitar 48.000 modul optik 800G yang secara tradisional diperlukan untuk menghubungkan seluruh NPU dalam konfigurasi tersebut.
Menurut perhitungan Huawei, rancangan ini dapat mengurangi konsumsi daya lebih dari 550 kilowatt. Huawei juga menyatakan sistem mampu menggandakan waktu operasi bebas gangguan dan mencapai ketersediaan sistem 99,8%. Klaim tersebut merupakan angka yang diberikan Huawei berdasarkan rancangan dan pengujian internalnya.
Huawei Siapkan SuperCluster hingga 1 Juta NPU
Huawei tidak berhenti pada satu SuperPoD. Perusahaan juga mengembangkan arsitektur yang memungkinkan beberapa SuperPoD dihubungkan menjadi sistem komputasi lebih besar. Dengan UnifiedBus atau RoCE, beberapa Atlas 960E SuperPoD dapat dihubungkan untuk membentuk SuperCluster.Huawei menyebut arsitektur dua tingkat dengan empat plane dapat menghubungkan hingga 512.000 NPU. Dengan konfigurasi multi-rail, skala tersebut dapat diperluas hingga 1 juta NPU. Untuk mendukung sistem berskala besar tersebut, Huawei juga memperbarui TaiShan 950 SuperPoD.
Sistem ini menggunakan jaringan optik UnifiedBus dan dapat mendukung hingga 4.096 node dengan unified memory pool hingga 256TB. Huawei menyatakan konfigurasi tersebut dirancang untuk mendukung beban kerja agentic AI, termasuk sandbox dalam jumlah besar dan pencarian vektor.
Huawei turut memperkenalkan OceanStor M900, sistem penyimpanan context memory yang menggunakan UnifiedBus. Produk tersebut menyediakan cache key-value berskala petabyte untuk mendukung workload AI dengan konteks panjang serta inferensi berbasis agen.
Kombinasi SuperPoD, penyimpanan context memory, dan interkoneksi UnifiedBus tersebut menjadi bagian dari strategi Huawei membangun infrastruktur AI untuk model berukuran sangat besar.
Atlas 960E Dijadwalkan 2027
Atlas 960E SuperPoD belum langsung tersedia secara komersial. Sistem tersebut dijadwalkan tersedia pada kuartal ketiga tahun 2027. Huawei juga mempercepat roadmap chip Ascend 960. Ascend 960DT dijadwalkan tersedia pada kuartal pertama tahun 2027, sementara Ascend 960PR ditargetkan hadir pada kuartal ketiga tahun 2027.Setelah itu, Huawei menyatakan akan melanjutkan pengembangan ke Ascend 970 pada 2028 dan Ascend 980 pada 2029. Selain hardware, Huawei juga memperluas ekosistem software. Huawei menyatakan Compute Architecture for Neural Networks (CANN) kini bergerak menuju pengembangan open source berbasis komunitas.
Huawei juga menyebut Ascend telah mendukung lebih dari 90 proyek open source pihak ketiga, termasuk PyTorch, Triton, vLLM, dan veRL. Melalui Atlas 960E dan arsitektur SuperCluster, Huawei memperlihatkan pendekatan berbeda dalam membangun infrastruktur AI berskala besar.
Fokusnya tidak hanya pada jumlah NPU, tetapi juga pada interkoneksi, memori, penyimpanan, pendinginan, dan konsumsi daya yang dibutuhkan ketika ribuan hingga jutaan prosesor bekerja dalam satu sistem.
