Meski potensinya besar, survei IDC 2025 menunjukkan bahwa 75% perusahaan masih belum memiliki kejelasan terkait penerapan agentic AI. Ketidakjelasan ini berisiko membuat inisiatif terhambat, bahkan menimbulkan masalah kepatuhan. Mayoritas organisasi juga hanya menjalankan kurang dari 10 use case AI secara bersamaan, menandakan strategi yang masih hati-hati dan terfragmentasi.
Perusahaan kini menekankan tata kelola multilapis untuk menjaga keamanan data. Langkah yang diambil antara lain membatasi akses data sensitif, melakukan anonimisasi informasi pribadi, serta menerapkan kebijakan siklus hidup data. Dari sisi keamanan, praktik seperti adversarial testing, sanitasi input, dan kontrol akses menjadi standar untuk mencegah kerentanan sistem.
Hampir dua pertiga proyek generatif AI dimulai dengan analisis biaya yang rinci. Faktor utama pengeluaran meliputi infrastruktur pelatihan berbasis GPU, lisensi perangkat lunak, biaya komputasi cloud, serta kebutuhan kepatuhan. IDC mencatat hanya sekitar 22% perusahaan yang melakukan analisis ROI secara menyeluruh, sehingga banyak proyek berisiko tidak sejalan dengan tujuan strategis.
Strategi infrastruktur bervariasi, sebagian membangun sistem in-house, sebagian memilih solusi turnkey, dan lainnya menggandeng integrator. Untuk pelatihan, dibutuhkan GPU dengan interkoneksi berkecepatan tinggi dan orkestrasi yang matang. Sementara itu, inferensi menuntut performa rendah-latensi di berbagai lingkungan.
Menariknya, 77% perusahaan menekankan standardisasi perangkat, dari server hingga laptop, agar konsistensi dan portabilitas tetap terjaga. Data menunjukkan 63,9% beban kerja inferensi dijalankan di cloud publik, 50,7% di pusat data, dan semakin banyak di edge server untuk aplikasi sensitif terhadap latensi seperti manufaktur dan logistik. Penggunaan perangkat end-user untuk inferensi masih terbatas.
Keberhasilan agentic AI akan bergantung pada kelincahan, ketahanan, dan efisiensi biaya. Faktor keberlanjutan juga menjadi sorotan, dengan kebutuhan komputasi hemat energi dan ketersediaan semikonduktor sebagai prioritas strategis.
Perusahaan yang mampu melakukan provisioning berbasis beban kerja serta analisis ROI sejak awal akan lebih siap menghadapi tantangan.
Cek Berita dan Artikel yang lain di
Google News