Temuan ini dipublikasikan dalam Global AI Confessions Report: Data Leaders Edition oleh Dataiku, yang menyurvei 800 pemimpin data di seluruh dunia. Laporan tersebut menyoroti kesenjangan yang mengkhawatirkan antara adopsi teknologi dan kepercayaan. Sebanyak 86% pemimpin data menyatakan bahwa organisasi mereka kini bergantung pada agen AI dalam operasi sehari-hari, dengan hampir separuhnya (42%) menanamkan AI begitu dalam hingga lusinan proses inti bergantung padanya.
Namun, di balik adopsi massal yang agresif ini, terdapat krisis kepercayaan yang mendalam. Laporan tersebut mencatat bahwa 75% pemimpin data menyatakan kepercayaan terhadap penyebaran agen AI mereka masih menjadi kekhawatiran utama.
Inti dari perjudian korporasi ini terletak pada masalah transparansi atau "explainability" (kemampuan untuk dijelaskan). Perusahaan bersedia menutup mata terhadap bagaimana AI mengambil keputusan demi mengejar kecepatan dan efisiensi.
Statistik menunjukkan keberanian yang mendekati kenekatan: 72% pemimpin data mengaku bersedia membiarkan agen AI membuat keputusan bisnis kritis tanpa penjelasan bagaimana hasil tersebut dicapai. Padahal, risiko regulasi dan audit sangat nyata. Mayoritas besar responden, yakni 95%, mengakui secara mengejutkan bahwa mereka tidak dapat melacak keputusan AI dari awal hingga akhir jika diminta memberikan alasan tersebut kepada regulator.
Hanya segelintir organisasi, yakni sekitar 5%, yang mewajibkan adanya manusia dalam proses pengambilan keputusan (human-in-the-loop) untuk agen AI mereka, sehingga akurasi jawaban sering kali menjadi satu-satunya jaring pengaman5.
Kekhawatiran para pemimpin data ini bukan tanpa alasan. Risiko yang diambil bukan sekadar hipotesis, melainkan telah memakan korban. Dalam satu tahun terakhir saja, 59% pemimpin data melaporkan telah menghadapi masalah atau krisis bisnis yang bersumber dari halusinasi atau ketidakakuratan AI.
Meskipun menyadari bahaya ini, tekanan kompetisi memaksa perusahaan untuk terus melaju. Para pemimpin data mengakui bahwa urgensi untuk tetap unggul dari kompetitor sering kali mengalahkan keraguan mereka tentang keandalan sistem. Bahkan, 80% pemimpin mengakui bahwa keputusan AI yang akurat namun tidak dapat dijelaskan lebih berbahaya bagi organisasi daripada keputusan yang salah tetapi dapat dilacak, namun mereka tetap mengambil risiko tersebut.
Menariknya, meskipun skeptis terhadap "kotak hitam" AI, para pemimpin data tampaknya lebih mempercayai mesin daripada manusia dalam hal analisis. Hampir 70% pemimpin mengakui bahwa saran bisnis yang dihasilkan AI memiliki bobot lebih besar daripada saran yang diberikan oleh karyawan manusia. Lebih jauh lagi, 82% pemimpin data percaya bahwa AI dapat memberikan analisis yang lebih akurat daripada atasan mereka sendiri.
Laporan ini menyimpulkan bahwa kita sedang berada di era ketika AI didorong ke jantung bisnis sehari-hari, namun dijalankan dengan kendali yang terbatas dan kepercayaan yang goyah. Tanpa transparansi mengenai bagaimana AI mengambil keputusan, organisasi berisiko tidak hanya gagal membuka potensi penuh AI, tetapi juga memicu krisis yang dapat merusak reputasi dan operasional mereka di masa depan.
Cek Berita dan Artikel yang lain di
Google News
