Laporan terbaru dari McKinsey & Company memperingatkan bahwa adopsi AI bukan hanya soal membeli lisensi model bahasa besar (Large Language Model/LLM), tetapi juga tentang menanggung biaya komputasi yang intensif yang dapat menggerus margin keuntungan jika tidak dikelola dengan hati-hati.
Laporan yang dirilis pada Oktober 2025 ini menyoroti bahwa salah satu dampak paling langsung dan terlihat dari adopsi AI adalah kenaikan biaya infrastruktur. Hal ini didorong oleh intensitas komputasi yang tinggi dari beban kerja inferensi—proses ketika model AI menghasilkan jawaban atau tindakan secara real-time. Berbeda dengan perangkat lunak tradisional yang biaya operasionalnya relatif stabil, AI membutuhkan daya komputasi yang masif setiap kali "berpikir".
Survei McKinsey terhadap para eksekutif perangkat lunak mengungkapkan kekhawatiran yang meluas terkait hal ini. Sebanyak 80% eksekutif memperkirakan biaya cloud dan infrastruktur mereka akan meningkat setidaknya 10% akibat penerapan AI. Lebih mengejutkan lagi, lebih dari sepertiga responden mengantisipasi lonjakan biaya di atas 20%.
Kenaikan ini memaksa perusahaan untuk segera memodernisasi kemampuan manajemen keuangan teknologi atau FinOps mereka. Laporan tersebut menekankan bahwa perusahaan kini membutuhkan transparansi yang jauh lebih dalam mengenai konsumsi sumber daya. Mereka harus mampu melacak penggunaan token dan sumber daya cloud hingga ke tingkat akun, pengguna, dan bahkan per agen individu untuk mengelola biaya dan memberikan kejelasan penagihan.
Banyak perusahaan perangkat lunak petahana yang merasa diri mereka sudah "maju secara teknologi" (tech-forward), namun laporan ini menilai sangat sedikit yang benar-benar "siap AI" (AI-ready). Membangun produk di era Gen AI membutuhkan fondasi infrastruktur yang sangat berbeda, yang mampu mendukung kebutuhan kinerja tinggi agen otonom yang beroperasi pada skala besar.
Dukungan untuk agen AI ini tidak sesederhana menghubungkan LLM ke sistem yang ada. Hal ini memerlukan perombakan infrastruktur dasar di lima komponen utama: lapisan data, tata kelola, keamanan, rantai alat pengembang, dan operasi agen. McKinsey memperkirakan bahwa bagi banyak perusahaan, 30% dari kapabilitas platform bersama yang ada saat ini memerlukan perubahan yang berarti untuk dapat mendukung agen AI.
Menghadapi lonjakan biaya ini, perusahaan tidak punya pilihan selain melakukan optimasi di seluruh tumpukan teknologi mereka. Langkah ini tidak hanya melibatkan arsitektur ulang beban kerja agen agar lebih efisien, tetapi juga merasionalisasi infrastruktur non-AI. Artinya, perusahaan mungkin perlu memangkas biaya di area tradisional untuk mendanai kebutuhan komputasi AI yang boros energi.
Risiko bagi mereka yang gagal melakukan investasi infrastruktur ini sangat tinggi. Perusahaan yang mengabaikan aspek ini berisiko menghadapi kinerja sistem yang buruk, biaya yang tidak terkendali, dampak agen yang terbatas, serta tumpukan utang teknis yang semakin menggunung. Di era baru ini, kesiapan infrastruktur bukan lagi sekadar isu teknis, melainkan isu kelangsungan finansial.
Cek Berita dan Artikel yang lain di
Google News
