Layanan ini memanfaatkan platform Akamai Cloud yang terdistribusi secara luas untuk mengatasi keterbatasan infrastruktur cloud terpusat.
Akamai Cloud Inference menjanjikan peningkatan signifikan dalam throughput hingga tiga kali lipat, penurunan latensi sebesar 60%, dan penghematan biaya hingga 86% dibandingkan dengan infrastruktur hyperscale tradisional.
Layanan ini memungkinkan perusahaan untuk menjalankan aplikasi AI dan beban kerja intensif data lebih dekat ke pengguna akhir, sehingga mempercepat pengambilan keputusan dan meningkatkan pengalaman pengguna.
"Mendekatkan data AI ke pengguna dan perangkat adalah tantangan yang dihadapi platform cloud lama," kata Adam Karon, Chief Operating Officer dan General Manager, Cloud Technology Group di Akamai.
"Pekerjaan inferensi yang dapat ditindaklanjuti akan berlangsung di edge, di mana platform Akamai yang telah dibangun selama dua setengah dekade terakhir menjadi penting untuk masa depan AI."
Akamai Cloud Inference menawarkan berbagai fitur, termasuk komputasi serbaguna, manajemen data mutakhir yang dibangun khusus untuk beban kerja AI modern, kontainerisasi untuk peningkatan kapasitas otomatis, dan komputasi edge dengan WebAssembly (WASM) untuk menjalankan inferensi LLM langsung dari aplikasi tanpa server.
Dengan lebih dari 4.200 titik kehadiran di lebih dari 1.200 jaringan di lebih dari 130 negara, Akamai Cloud membuat sumber daya komputasi tersedia dari cloud ke edge, mempercepat kinerja aplikasi, dan meningkatkan skalabilitas.
Peralihan dari pelatihan ke inferensi AI juga menjadi fokus utama, karena perusahaan-perusahaan mulai menyadari pentingnya solusi AI praktis yang dapat menyelesaikan masalah bisnis spesifik.
Akamai Cloud Inference diharapkan dapat memenuhi permintaan akan solusi AI yang memanfaatkan pembuatan data yang lebih dekat dengan titik asalnya, sehingga memungkinkan pengambilan keputusan yang lebih cepat dan cerdas serta pengalaman yang lebih personal.
Contoh penggunaan awal layanan ini mencakup asisten suara di mobil, manajemen hasil berbasis AI, dan pengalaman berbelanja dengan visualisasi produk secara virtual.
Cek Berita dan Artikel yang lain di
Google News
