Pada ajang AWS re:Invent 2024 CEO AWS, Matt Garman, mengumumkan bahwa chip atau prosesor akselerator pengembangan AI mereka Generasi Terbaru yaitu Amazon Trainium 3 sudah disiapkan Dan akan segera tersedia.
“Trainium3 dengan fabrikasi 3nm akan segera tersedia paling cepat tahun depan, menjanjikan performa dua kali lebih cepat dari Trainium2 tapi menawarkan tingkat efisiensi energi 40 persen lebih tinggi,” ucap Garman dengan bangga di atas panggung.
“Hal ini akan memungkinkan customer menciptakan aplikasi Generative AI Dan AI itu sendiri lebih cepat dan skala yang lebih masif,” imbuhnya.
Trainium3 sebagai chip atau prosesor akselerator AI akan menyediakan performa untuk kebutuhan pengembangan Large Language Model (LLM) Dan foundation model, contohnya seperti OpenAI GPT.
Tentu saja chip atau prosesor tidak diperjual belikan bebas layaknya prosesor untuk komputer, Amazon Trainium tersedia di solusi layanan infrastruktur cloud yang diakses sebagai solusi virtual machine.
Pada saat yang sama Garman mengumumkan bahwa chipse atau prosesor seri sebelumnya, Trainium2 (Trn2), sudah tersedia untuk diakses dari layanan Amazon Elastic Compute Cloud (Amazon EC2) instances.
Jika platform Amazon EC2 Instances memungkinkan kemampuan komputasi virtual d infrastruktur AWS, kini dengan Amazon EC2 Trn2 Instances maka dihadirkan kemampuan mumpuni untuk pengembangan dan pelatihan model Generative AI termasuk LLM Dan lainnya.
Trainium2 Instances diklaim menawarkan 30 hingga 40 persen harga per performa yang lebih baik dibandingkan layanan EC2 P5e yang berbasis GPU.
Diperkenalkan pada tahun lalu, Trainium2 2 pada layanan Amazon EC2 Trn2 akan menawarkan akses ke 16 chip Trainium2 yang bisa menyediakan kemampuan pemrosesan komputasi hingga 20,8 petaflop sehingga ideal untuk pelatihan LLM dengan miliaran parameter.
Bagi yang membutuhkan sumber daya lebih besar lagi, Amazon menghadirkan opsi rack yaitu Amazon EC2 Trn2 UltraServer yang menyediakan 64 prosesor Trainium2 yang saling terkoneksi satu sama lain sehingga seperti sebuah satu server Raksasa.
“Dengan model AI yang saat ini bisa memiliki triliunan parameter, kami memahami bahwa pengguna juga memiliki kebutuhan modal untuk melatih dan menjalankan beban kerja yang masif,” ucap Garman.
“Trn2 UltraServer Terbaru menyediakan dukungan untuk pelatihan yang lebih cepat dan performa inferensi pada AWS, serta membantu lebih banyak pengembangan model AI yang lebih besar lagi tapi tetap di harga operasional yang rendah,” tandasnya.
Cek Berita dan Artikel yang lain di
Google News
