"Saya dengan senang hati mengumumkan bahwa Trainium 3 UltraServer kini telah tersedia secara umum," kata Garman dalam keynote speech AWS re:Invent 2025, Las Vegas, Selasa, 2 Desember 2025.
Dia mengeklaim Tranium 3 UltraServer merupakan teknologi paling canggih dari AWS. Server tersebut menggunakan chip AI berteknologi 3 nanometer pertama di AWS Cloud.
Garman memaparkan bahwa Trainium 3 menawarkan kinerja harga terbaik di industri untuk pelatihan dan inferensi AI skala besar. Bahkan dia menyebut Trainium 3 UltraServer merupakan lompatan teknologi yang besar.
"Komputasi 4,4 kali lebih banyak, bandwidth memori 3,9 kali lebih kuat. Dan yang sangat penting, lima kali lebih banyak token AI per megawatt daya," terang Garman.
Dalam demonstrasi di atas panggung, Garman menunjukkan satu rak UltraServer. Dia menyebut AWS sudah mengoperasikan tiga UltraServer terbesar yang menggabungkan 144 chip Trainium 3 terintegrasi dalam satu domain scale-up lewat neuron switches khusus.
"Ini memberikan komputasi masif 362 petaflops, bandwidth agregat lebih dari 700TB per detik, dan semua itu dalam satu compute instance," paparnya.
Garman menekankan keunggulan sistem AWS yang terintegrasi. Garman kemudia blak-blakan membagikan hasil benchmark UltraServer baru tersebut yang diuji untuk menjalankan modul OpenAI.
"Dengan Trainium 3, kami mendapatkan peningkatan efisiensi yang luar biasa dibandingkan Trainium 2," terang Garman.
Teknologi Trainium 3 dan UltraServer kini siap digunakan pelanggan AWS untuk mempercepat dan membuat pelatihan model AI generatif yang paling kompleks menjadi lebih ekonomis.
Cek Berita dan Artikel yang lain di
Google News
