Jakarta: Google mengumumkan ekspansi portofolio akselerator Tensor Processing Unit (TPU) generasi kedelapannya. Dua sistem terbaru yang diluncurkan, yakni TPU 8tx dan TPU 8i Max, dirancang khusus untuk menangani tantangan keamanan data serta pemrosesan jendela konteks berskala besar dalam era AI agentik.
Google memanfaatkan TPU tidak hanya untuk melatih dan menjalankan model Gemini serta beban kerja agentik internal. Mereka juga menyediakannya bagi para pelanggan Google Cloud maupun penerapan langsung di pusat data milik pelanggan sendiri.
Hingga saat ini, bisnis TPU mengalami pertumbuhan pesat dengan memikat hampir 100 pelanggan utama yang mencakup laboratorium AI terdepan, perusahaan perdagangan, peritel, universitas, hingga berbagai organisasi global.
Langkah ekspansi ini melengkapi dua varian TPU generasi kedelapan yang telah diperkenalkan sebelumnya pada ajang Cloud Next pada April 2026, yaitu TPU 8t dan TPU 8i. Dibandingkan generasi terdahulu, TPU 8t menawarkan peningkatan performa pelatihan model hingga 2,7 kali lebih tinggi. Sementara itu, TPU 8i mampu meningkatkan efisiensi biaya inferensi hingga 80 persen serta memangkas latensi komunikasi antar-chip hingga separuhnya.
Amin Vahdat, Chief Technologist dan Senior Vice President of AI and Infrastructure Google, menekankan pentingnya respons terhadap dinamika industri AI. "Seiring pergeseran skala komputasi dari manusia ke agen, perusahaan membutuhkan akselerator yang mampu melakukan penalaran dengan memanfaatkan jendela konteks model AI yang sangat besar. Selain itu, sejumlah pelanggan di industri dengan regulasi ketat membutuhkan kemampuan enkripsi khusus untuk beban kerja tertentu," ujar Amin.
"Sistem TPU terbaru ini dirancang untuk menjawab kebutuhan tersebut. Bersama dengan pengumuman terbaru kami terkait PyTorch, kami ingin membuat TPU lebih mudah diakses oleh setiap developer dan pelanggan. Dengan memadukan silikon khusus yang modular dan rangkaian perangkat lunak terbuka yang mudah digunakan, kami dapat menghadirkan perangkat keras serta konfigurasi sistem baru sejalan dengan pesatnya perkembangan industri AI."
Sistem TPU 8tx secara khusus dioptimalkan untuk inferensi rahasia dan pelatihan model skala kecil. Varian ini ditargetkan bagi perusahaan di sektor dengan regulasi ketat dan lembaga pemerintahan yang memproses data sangat sensitif. Berbeda dengan pendekatan konvensional yang harus membuka enkripsi data saat diproses di memori, TPU 8tx memadukan silikon TPU 8t dengan host CPU AMD khusus untuk mengintegrasikan keamanan di tingkat perangkat keras.
Hasilnya, data sensitif dan bobot model tetap terlindungi meskipun sedang digunakan secara aktif. Dilengkapi jaringan Boardfly berlatensi rendah, TPU 8tx mampu mempercepat proses agen bertahap dengan latensi dua kali lebih rendah dibandingkan TPU 8t.
Sementara itu, TPU 8i Max dirancang untuk mengatasi hambatan bandwidth memori ketika puluhan agen AI bekerja secara bersamaan memproses basis kode atau rekaman video berdurasi panjang. TPU 8i Max menggandakan kapasitas komputasi, SRAM, serta bandwidth HBM dibandingkan TPU 8i biasa.
Varian ini juga mampu menampung silikon dua kali lebih banyak dalam satu ruang rak yang sama, sehingga meningkatkan daya komputasi dan efisiensi energi per satuan luas pusat data.
Dengan hadirnya keempat varian tersebut, Google kini menyediakan solusi terpadu di setiap tahap siklus kerja AI agentik: TPU 8t untuk pelatihan skala besar, TPU 8i untuk penalaran berlatensi rendah, TPU 8tx untuk komputasi rahasia, serta TPU 8i Max untuk pemrosesan jendela konteks hingga jutaan token.
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
