Selama pidatonya di NVIDIA AI Summit Jepang, pendiri dan CEO Jensen Huang mengumumkan bahwa SoftBank sedang membangun superkomputer AI paling kuat di Jepang menggunakan Blackwell dan memiliki rencana untuk menggunakan Grace Blackwell untuk superkomputer berikutnya.
Selain itu, NVIDIA mengungkapkan bahwa SoftBank, menggunakan platform komputasi akselerasi AI Airal, telah berhasil menguji coba jaringan telekomunikasi gabungan AI dan 5G pertama di dunia — sebuah terobosan dalam komputasi yang membuka aliran pendapatan AI yang berpotensi bernilai miliaran dolar bagi operator telekomunikasi.
NVIDIA dan SoftBank juga mengumumkan bahwa, dengan menggunakan perangkat lunak AI Enterprise, SoftBank bertujuan untuk menciptakan pasar AI yang dapat memenuhi permintaan akan komputasi AI lokal yang aman.
Layanan baru ini, yang mendukung pelatihan AI dan inferensi AI tepi, memposisikan SoftBank untuk menjadi jaringan AI untuk Jepang, memfasilitasi peluang bisnis baru untuk pembuatan, distribusi, dan penggunaan layanan AI di seluruh industri, konsumen, dan perusahaan di negara itu.
"Jepang memiliki sejarah panjang dalam merintis inovasi teknologi dengan dampak global," kata Huang. "Dengan investasi signifikan SoftBank dalam platform AI, Omniverse, dan 5G AI-RAN full-stack NVIDIA, Jepang melompat ke revolusi industri AI untuk menjadi pemimpin global, mendorong era baru pertumbuhan di seluruh industri telekomunikasi, transportasi, robotika, dan perawatan kesehatan dengan cara yang akan sangat bermanfaat bagi umat manusia di era AI."
"Negara-negara dan wilayah di seluruh dunia mempercepat adopsi AI untuk pertumbuhan sosial dan ekonomi, dan masyarakat sedang mengalami transformasi yang signifikan," kata Junichi Miyakawa, presiden dan CEO SoftBank.
"Melalui kolaborasi panjang kami dengan NVIDIA, SoftBank memimpin transformasi ini dari garis depan. Dengan infrastruktur AI kami yang sangat kuat dan solusi AI-RAN terdistribusi baru kami 'AITRAS' yang menemukan kembali jaringan 5G untuk AI, kami akan mempercepat inovasi di seluruh negeri dan di seluruh dunia."
SoftBank dijadwalkan untuk menerima sistem DGX B200 pertama di dunia, yang akan berfungsi sebagai blok bangunan untuk superkomputer DGX SuperPOD barunya.
SoftBank berencana untuk menggunakan DGX SuperPOD bertenaga Blackwell untuk pengembangan AI generatifnya sendiri dan bisnis terkait AI, serta universitas, lembaga penelitian, dan bisnis di seluruh Jepang.
Setelah selesai, DGX SuperPOD SoftBank diharapkan menjadi yang paling berkinerja di Jepang hingga saat ini. Menampilkan perangkat lunak AI Enterprise dan jaringan Quantum-2 InfiniBand, ini juga ideal untuk pengembangan model bahasa besar.
Selain DGX SuperPOD-nya, SoftBank berencana untuk membangun superkomputer lain yang dipercepat untuk menjalankan beban kerja yang sangat intensif komputasi. Rencana awal untuk superkomputer didasarkan pada desain Grace Blackwell yang menampilkan sistem multi-node GB200 NVL72, berpendingin cairan, skala rak yang menggabungkan GPU NVIDIA Blackwell dengan CPU NVIDIA Grace berbasis Arm yang hemat daya.
Bekerja sama dengan NVIDIA, SoftBank telah mencapai tonggak teknologi — pengembangan jenis jaringan telekomunikasi baru yang dapat menjalankan beban kerja AI dan 5G pada saat yang bersamaan, yang dikenal oleh industri sebagai jaringan akses radio kecerdasan buatan, atau AI-RAN.
Infrastruktur generasi baru ini memiliki dukungan ekosistem yang luas dari industri telekomunikasi, karena menawarkan operator kemampuan untuk mengubah stasiun pangkalan mereka dari pusat biaya menjadi aset penghasil pendapatan AI.
Melalui uji coba luar ruangan yang dilakukan di prefektur Kanagawa, SoftBank menunjukkan bahwa solusi AI-RAN telah mencapai kinerja 5G tingkat operator dan mampu melakukannya sambil menggunakan kelebihan kapasitas jaringan untuk menjalankan beban kerja inferensi AI secara bersamaan.
Jaringan telekomunikasi tradisional dirancang untuk menangani beban puncak dan, rata-rata, hanya menggunakan sepertiga dari kapasitas itu. Dengan kemampuan komputasi umum yang disediakan oleh AI-RAN, diharapkan perusahaan telekomunikasi sekarang memiliki kesempatan untuk memonetisasi kapasitas dua pertiga yang tersisa untuk layanan inferensi AI.
NVIDIA dan SoftBank memperkirakan bahwa operator telekomunikasi dapat memperoleh sekitar USD5 dalam pendapatan inferensi AI dari setiap USD1 belanja modal yang diinvestasikan dalam infrastruktur AI-RAN baru. Mempertimbangkan biaya opex dan capex-nya, SoftBank memperkirakan dapat mencapai pengembalian hingga 219% untuk setiap server AI-RAN yang ditambahkan ke infrastrukturnya.
Untuk uji coba ini, SoftBank menggunakan NVIDIA AI Enterprise untuk membangun aplikasi inferensi AI dunia nyata, termasuk dukungan jarak jauh kendaraan otonom, kontrol robotika, dan pembuatan otomatis pengambilan multimoda di edge. Semua beban kerja inferensi dapat berjalan secara optimal pada jaringan AI-RAN SoftBank.
Tumpukan radio 5G yang sepenuhnya ditentukan perangkat lunak SoftBank dioptimalkan untuk platform komputasi AI dan mencakup perangkat lunak L1 yang ditingkatkan oleh SoftBank berdasarkan pustaka RAN yang dipercepat Aerial CUDA. SoftBank berencana untuk menggabungkan sistem NVIDIA Aerial RAN Computer-1, yang diperkirakan dapat menggunakan daya 40% lebih sedikit daripada infrastruktur jaringan 5G tradisional.
Karena solusi AI-RAN perlu memutar komputasi ke atas atau ke bawah secara dinamis berdasarkan permintaan dan penawaran tanpa mengorbankan kinerja tingkat operator secara real time, SoftBank bertujuan untuk membangun ekosistem yang menghubungkan permintaan dan penawaran teknologi AI dengan menggunakan antarmuka pemrograman aplikasi tanpa server NVIDIA AI Enterprise dan orkestrator yang dikembangkan sendiri.
Hal ini memungkinkan SoftBank untuk mengirimkan pekerjaan inferensi AI eksternal ke server AI-RAN ketika sumber daya komputasi tersedia untuk memberikan layanan inferensi yang dilokalkan, latensi rendah, dan aman.
"Pergeseran dari jaringan AI-RAN tujuan tunggal ke multiguna dapat berarti pendapatan 5x lipat untuk setiap dolar belanja modal yang diinvestasikan," kata Ronnie Vasishta, wakil presiden senior telekomunikasi di NVIDIA. "Uji coba lapangan langsung SoftBank menandai langkah besar menuju komersialisasi AI-RAN dengan validasi kelayakan, kinerja, dan ekonomi teknologi."
"'AITRAS' SoftBank adalah solusi AI-RAN pertama yang dikembangkan melalui kolaborasi lima tahun dengan NVIDIA. Ini mengintegrasikan dan mengoordinasikan beban kerja AI dan RAN melalui orkestrator yang dikembangkan SoftBank, meningkatkan efisiensi komunikasi dengan menjalankan sel padat pada satu server GPU yang dipercepat NVIDIA," kata Ryuji Wakikawa, wakil presiden dan kepala Institut Penelitian Teknologi Lanjutan di SoftBank.
"Kami yakin inovasi yang digerakkan oleh AI ini, AITRAS, akan membuka jalan bagi model bisnis baru di bidang telekomunikasi, yang berfungsi sebagai faktor penting dalam transformasi operator seluler."
Cek Berita dan Artikel yang lain di
Google News
