Jakarta: Laporan terbaru yang dirilis oleh SAS bersama International Data Corporation (IDC) mengungkapkan bahwa penerapan kecerdasan buatan (AI) yang tepercaya menjadi faktor krusial yang menentukan keberhasilan investasi AI di berbagai organisasi.
Dalam riset bertajuk Data and AI Impact Report: The New Economics of Trust, organisasi yang mengadopsi pendekatan AI tepercaya memiliki kemungkinan hingga 15 kali lebih besar untuk mencapai return on investment (ROI) yang tinggi dibandingkan perusahaan yang mengabaikan aspek tersebut.
Laporan tahunan kedua ini menegaskan bahwa perusahaan dengan tata kelola data, kualitas data, serta kemampuan audit yang paling kuat secara konsisten mencatatkan kinerja bisnis yang unggul. Kelompok organisasi ini mampu mengantongi ROI setidaknya dua kali lebih tinggi dari proyek AI mereka. Sebaliknya, kurang dari satu dari 20 organisasi yang tergolong tertinggal dalam penerapan AI tepercaya mampu mencapai hasil serupa.
Salah satu hambatan utama yang memicu rendahnya hasil investasi AI adalah ketidakmampuan sistem AI dalam menjelaskan keputusan yang dihasilkannya. Ketika karyawan tidak memahami alasan di balik rekomendasi AI, mereka cenderung meragukan hasil tersebut dan memilih melakukan koreksi secara manual, yang pada akhirnya mengurangi efisiensi dan profitabilitas perusahaan.
Berdasarkan data studi, sebanyak 97,2% pengguna mengaku pernah tidak mengikuti rekomendasi AI setidaknya dalam beberapa situasi. Alasan utama dari tindakan ini adalah ketiadaan penjelasan yang transparan mengenai proses pengambilan keputusan oleh sistem AI. Riset ini juga mencatat adanya penurunan tingkat kepercayaan pengguna, yaitu dari 76% pada AI generatif turun menjadi 66% pada AI berbasis agen (agentic AI), seiring meningkatnya tingkat otonomi yang dimiliki oleh sistem AI.
Chief Technology Officer SAS, Bryan Harris, menjelaskan bahwa agen AI mutakhir masih memiliki risiko tingkat kesalahan di atas 25% saat menangani tugas-tugas kompleks. Tingkat kesalahan tersebut sangat berisiko dalam skenario pengambilan keputusan bisnis yang bernilai tinggi. Oleh karena itu, integrasi keahlian domain serta pengawasan manusia di dalam alur kerja berbasis agen tetap menjadi faktor kunci untuk menjaga akurasi dan konsistensi.
Sementara itu, Vice President IDC, Chris Marshall, menambahkan bahwa seiring bertambahnya kemandirian sistem AI, pengawasan yang ketat, akuntabilitas, serta fondasi data yang solid kini menjadi prasyarat mutlak agar organisasi dapat memperluas adopsi AI secara efektif dan berkelanjutan.
Kesenjangan kinerja antara organisasi yang memprioritaskan AI tepercaya dan yang tidak kini semakin melebar. Organisasi yang memperoleh keuntungan besar tidak sekadar menggunakan teknologi yang berbeda, melainkan menerapkan pendekatan manajemen dan tata kelola yang lebih terstruktur.
Organisasi yang berinvestasi pada AI tepercaya mencatatkan angka peluang ROI tinggi sebesar 62%, berbanding jauh dengan organisasi tertinggal yang hanya mencatatkan 4%. Selain itu, penerapan AI tepercaya memberi dorongan kinerja 1,85 kali lebih besar pada 13 indikator hasil bisnis, termasuk pertumbuhan pendapatan, penghematan biaya operasional, serta peningkatan pengalaman pelanggan.
Peningkatan kinerja ini mendorong sebanyak 85% pemimpin AI tepercaya untuk merencanakan penambahan anggaran investasi mereka lebih dari 10% tahun ini guna memperkuat posisi komparatif mereka di pasar.
Meskipun minat adopsi AI terus meningkat, mayoritas organisasi masih dibatasi oleh fondasi data yang belum memadai. Studi menunjukkan hanya 17,5% perusahaan yang memiliki infrastruktur data yang benar-benar optimal dan cukup matang untuk menopang kebutuhan AI berbasis agen.
Perusahaan dengan fondasi data yang matang terbukti memiliki peluang empat kali lebih besar untuk mengharapkan ROI tinggi, serta enam kali lebih siap dalam menerapkan kontrol kualitas data dan transparansi keputusan.
Riset global ini melibatkan 2.699 pengambil keputusan dari 28 negara di sektor perbankan, asuransi, ilmu hayati, dan sektor publik. Di sektor perbankan, tata kelola AI telah berubah dari sekadar pemenuhan regulasi menjadi keunggulan bersaing.
Sebanyak 85% bank yang memimpin adopsi AI telah memiliki kerangka tata kelola yang matang, dibandingkan hanya 29% pada kelompok bank yang tertinggal. Di sektor publik, 41% pemimpin meningkatkan investasi AI tepercaya lebih dari 20% untuk satu tahun ke depan. Sementara itu, sektor ilmu hayati memimpin dalam hal skala penerapan, dengan 23% organisasi telah memperluas adopsi AI ke seluruh lini operasional mereka.
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
