Senior Vice President Utility Computing AWS, Peter DeSantis, tidak hanya membeberkan spesifikasi chip Trainium3 yang sebelumnya diungkap CEO AWS Matt Garman. DeSantis turut membongkar desain fisik rak server berkekuatan ultra besutan AWS.
DeSantis menyebut UltraServer generasi terbaru ini mengintegrasikan 144 chip Trainium3 dalam dua rak. Rak terhubung oleh switch khusus berlatensi ultra-rendah bernama Neuron Switches.
“Ini bukan networking switch biasa. Switch-switch ini dirancang khusus untuk menyediakan bandwidth bifokal penuh pada latensi yang sangat rendah langsung ke chip training tersebut,” jelas DeSantis dalam pemaparan di AWS re:Invent 2025, Las Vegas, Kamis, 4 Desmeber 2025.
Dia menekankan desain arsitektur ini dibangun dari nol untuk beban kerja AI. Bukan adaptasi dari desain server umum.
Klaim performa yang dibeberkan DeSantis tak tanggung-tanggung. Kemampuan komputasi presisi 8-bit mencapai 360 PetaFLOPS ditambah 20 Terabyte memori High-Bandwidth Memory (HBM) dengan bandwidth 700 TB per detik.
Menurut DeSantis, spesifikasi ini membuat UltraServer generasi terbaru memiliki kemampuan komputasi hingga 4,4 kali lipat dibanding generasi tahun lalu. Selain itu, peningkatan bandwidth mencapai 3,9 kali lipat.
Namun alih-alih lebih jemawa dengan spesifikasi luar biasa, DeSantis justru lebih menyorot dampak finansial Trn3 UltraServer generasi terbaru ini.
“Trainium3 akan memberikan biaya hingga 40% lebih rendah bahkan untuk beban kerja AI yang paling menuntut. Itu masalah besar ketika Anda menghabiskan puluhan miliar dolar untuk infrastruktur,” tegas DeSantis.
UltraServer generasi terbaru ini juga menerapkan strategi integrasi vertikal AWS. DeSantis menunjukkan bahwa dalam satu sled server, AWS menggabungkan tiga chip kustomnya sekaligus. Trainium3 sebagai accelerator AI, Graviton sebagai host processor, dan Nitro untuk networking dan keamanan.
"Jadi perbaikan di salah satu sled tidak perlu membuat kerja sled lain terganggu," kata DeSantis.
Klaim penghematan biaya 40 persen ini seperti gendang perang harga yang membidik NVIDIA. AWS terkesan berusaha menggaet perusahaan-perusahaan dengan tagihan investasi dan komputasi AI yang semakin membengkak.
Cek Berita dan Artikel yang lain di
Google News
