Jakarta: Akamai Technologies meluncurkan dua produk inti terbaru dalam ekosistem kecerdasan buatan (AI) milik mereka, yaitu Akamai Inference dan Akamai Agent Sandbox. Langkah strategis ini menghadirkan layanan penyajian model terkelola serta lingkungan kerja terisolasi bagi agen AI di dalam platform Akamai Cloud. Melalui inovasi tersebut, perusahaan dapat membangun, menyempurnakan, mengeksekusi, serta mengamankan model AI kustom maupun open-weight secara terpadu.
Peluncuran dua layanan ini memperkuat strategi global Akamai untuk mendekatkan aplikasi dan agen AI dengan pengguna akhir serta data internal perusahaan. Portofolio infrastruktur pendukung Akamai Cloud sendiri telah mencatatkan kontrak multi-tahunan bernilai kumulatif lebih dari USD14 miliar.
Capaian tersebut mencerminkan tingginya momentum pasar terhadap integrasi unit pemrosesan terdistribusi, penyimpanan cloud, serta jaringan edge untuk mengoperasikan workload AI skala besar secara efisien. Chief Operating Officer dan GM Akamai Cloud, Adam Karon, menegaskan bahwa inferensi AI kini menjadi fokus investasi utama bagi sektor industri.
"Kami telah menjalankan strategi infrastruktur AI berdasarkan keyakinan bahwa AI inference akan menjadi fokus utama dan area investasi terbesar bagi perusahaan. Pelanggan kami membuktikan bahwa keyakinan tersebut benar dan mendorong kami untuk melangkah lebih jauh," ujar Adam.
Ia menambahkan, merek ingin membangun, menjalankan, dan melindungi AI pada platform yang sama. Akamai Inference dan Akamai Agent Sandbox menambahkan lapisan inference dan eksekusi yang melengkapi infrastruktur AI menjadi sebuah ekosistem AI yang utuh.
Layanan Akamai Inference memberikan akses terkelola ke berbagai model open-weight dan model kustom melalui API yang kompatibel dengan OpenAI. Pengguna dapat memilih opsi inference tanpa server dengan skema bayar-sesuai-pemakaian (pay-per-use) maupun penerapan khusus. Pada tahap awal peluncuran, katalog layanan ini mencakup 12 model open-weight, termasuk NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4.
Sementara itu, Akamai Agent Sandbox menghadirkan lingkungan operasional yang aman dan terkontrol bagi agen AI yang menjalankan tindakan atau menulis kode secara mandiri.
Menggunakan teknologi isolasi WebAssembly sebagai komponen kerangka kerja Spin, Sandbox menetapkan batasan tegas terhadap komputasi, memori, koneksi keluar, dan kapabilitas sistem. Hal ini memastikan kode agen beroperasi secara terisolasi dari runtime utama tanpa mengorbankan keamanan sistem.
Untuk menopang beban pemrosesan berat, Akamai juga memperluas klaster GPU khusus dengan menghadirkan NVIDIA Blackwell Ultra serta mempersiapkan infrastruktur pendukung platform NVIDIA Vera Rubin. Setiap node Blackwell Ultra berbekal delapan GPU dengan memori total 2,3 TB HBM3e, dirancang khusus untuk menangani penalaran kompleks (chain-of-thought reasoning) dan pemrosesan agen dengan konteks panjang.
Senior Vice President Cloud Technology di Akamai, Jon Alexander, menyoroti pentingnya kepastian kendali bagi tim pengembang. "Perusahaan seharusnya tidak perlu memilih antara kecepatan dan kendali ketika menerapkan AI pada fase produksi," kata Jon.
"Sebagian tim ingin meluncurkan fitur AI pada kuartal ini melalui platform terkelola. Tim lainnya membutuhkan GPU khusus untuk menjalankan model open-weight kelas frontier sesuai kebutuhan mereka sendiri. Kini Akamai Cloud mendukung semuanya dalam satu platform, dengan keamanan dan resilience yang telah terintegrasi."
Saat ini, Akamai Agent Sandbox dan Akamai Inference telah tersedia dalam versi beta.
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
