Singapura: Di tengah masifnya eksperimen model generatif (Generative AI), banyak perusahaan dilaporkan terjebak dalam pembengkakan biaya token (token maxing) tanpa menghasilkan imbal hasil investasi yang sepadan.
SVP Global Sales & Revenue Cloudera, Brian Rosso, mengungkapkan bahwa mayoritas inisiatif AI di tingkat enterprise saat ini masih terhenti di tahap uji coba dan gagal menembus lini produksi komersial. Hal ini memicu kekhawatiran besar di jajaran pimpinan puncak, terutama CEO dan CFO yang mulai menagih dampak finansial nyata dari miliaran rupiah anggaran teknologi yang telah digelontorkan.
"Banyak proyek AI yang gagal dan hanya berakhir di tahap Proof of Concept, sangat sedikit yang berhasil masuk ke tahap produksi. Saat ini ada tekanan yang sangat besar di tingkat eksekutif untuk memperlihatkan ROI nyata. Kami selalu menekankan kembali: apa studi kasus riil yang benar-benar mampu mendorong nilai bisnis signifikan?" ujar Brian dalam sesi wawancara khusus di ajang Cloudera Evolve 2026 Singapore.
Brian menyoroti fenomena token maxing, yakni konsumsi token model bahasa besar secara jor-joran di lingkungan public cloud tanpa kalkulasi output bisnis yang jelas. Praktik ini kerap dianggap sebagai ukuran kemajuan inovasi, padahal hanya membebani struktur biaya operasional perusahaan.
"Jika seseorang menghabiskan 10.000 token per hari, para eksekutif kini bertanya: apa nilai tambahnya? Pengeluaran sebesar itu harus mampu menghasilkan imbal balik berlipat ganda, bukan sekadar membakar biaya komputasi yang hanya menguntungkan penyedia infrastruktur cloud," tegasnya.
Menanggapi fenomena tersebut, Senior Regional Vice President APJ Cloudera, Remus Lim, menekankan pentingnya pendekatan arsitektur hybrid dan pengelolaan berbasis kepastian biaya. Menurutnya, korporasi di kawasan Asia Pasifik kini kian bijak dalam membedakan beban kerja mana yang layak dijalankan di cloud dan mana yang harus diproses di data center privat.
"Pendekatan terbaik selalu kembali ke evaluasi kebutuhan. Untuk beban kerja rutin dan data sensitif, menjalankannya di data center sendiri memberikan kepastian biaya tetap sekaligus menjamin kedaulatan data. Sementara itu, public cloud bisa digunakan saat membutuhkan elastisitas komputasi jangka pendek. Misalnya, meluncurkan kampanye promosi, jalankan sistemnya, lalu matikan setelah selesai," jelas Remus.
Sebagai solusi atas dilema tersebut, Cloudera menghadirkan Cloudera Anywhere Cloud. Platform data dan AI terpadu ini mengusung kapabilitas write once, deploy anywhere, yang memungkinkan enterprise membangun Private Sovereign AI Factory di dalam data center mereka sendiri.
Fleksibilitas ini memastikan perusahaan dapat mengadopsi AI secara bertahap sesuai kebutuhan, menjaga kerahasiaan data internal, dan terhindar dari jebakan lonjakan biaya komputasi yang tidak terkendali.
Jadikan Medcom.id sumber informasi pilihan Anda
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
