Tren ini sejalan dengan kondisi global, sebagaimana diungkapkan dalam data terbaru "State of IT" dari Salesforce. Optimisme terhadap penggunaan AI agen (agentic AI) sangat tinggi di kalangan pemimpin keamanan TI, bahkan 100% dari mereka mengidentifikasi setidaknya satu tantangan keamanan yang berpotensi ditingkatkan dengan teknologi ini.
Namun, di balik harapan besar tersebut, survei terhadap lebih dari 150 pemimpin TI di Indonesia, termasuk 75 profesional yang bertanggung jawab atas keamanan, privasi, dan kepatuhan regulasi, menyoroti kesenjangan signifikan dalam kesiapan implementasi.
Hampir sepertiga organisasi (29%) masih mengkhawatirkan fondasi data mereka belum siap untuk memaksimalkan potensi AI agen. Lebih dari separuh (57%) juga belum sepenuhnya yakin memiliki sistem pengamanan (guardrail) yang memadai untuk menerapkan teknologi ini.
Para profesional keamanan TI dan juga pelaku kejahatan siber kini semakin mengandalkan AI dalam strategi mereka. AI agen menawarkan potensi besar untuk mengurangi beban pekerjaan manual tim keamanan TI, memungkinkan mereka fokus pada tantangan yang lebih kompleks. Kendati demikian, keberhasilan implementasinya sangat bergantung pada infrastruktur data yang kuat dan tata kelola yang tepat.
Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce, menekankan, organisasi hanya bisa mempercayai AI agen sejauh mereka yakin bahwa data mereka dapat diandalkan. Ia menambahkan bahwa dengan 49% pemimpin keamanan TI di Indonesia melaporkan keraguan pelanggan terhadap adopsi AI karena masalah keamanan dan privasi, pengelolaan data yang kuat bukan lagi pilihan, melainkan keharusan.
Ancaman siber berbasis AI terus berkembang pesat, dan 71% pemimpin TI Indonesia khawatir ancaman ini akan segera menaklukkan sistem perlindungan tradisional. Selain serangan umum seperti peretasan keamanan cloud, malware, dan phishing, muncul kekhawatiran baru terhadap data poisoning, di mana penjahat siber merusak data yang digunakan untuk melatih AI, berpotensi menghasilkan keputusan yang tidak akurat atau berbahaya.
Lingkungan regulasi yang semakin kompleks juga memperumit implementasi AI. Meskipun 92% pemimpin keamanan TI Indonesia percaya AI agen dapat membantu kepatuhan, seperti meningkatkan kepatuhan terhadap aturan privasi global, hampir sebanyak itu (87%) juga melihat tantangan kepatuhan baru.
Ini diperparah oleh regulasi yang berubah-ubah di berbagai wilayah dan industri, serta proses kepatuhan yang masih banyak dilakukan secara manual dan rawan kesalahan. Sebanyak 40% belum sepenuhnya yakin dapat menerapkan AI agen sesuai regulasi, dan sekitar 37% merasa belum siap menghadapi perubahan regulasi terkait AI di masa depan.
Kepercayaan adalah fondasi kesuksesan AI, namun data menunjukkan masih banyak pekerjaan yang harus dilakukan. Riset terbaru menunjukkan kepercayaan konsumen terhadap perusahaan menurun drastis, dengan hanya 42% konsumen percaya perusahaan akan menggunakan AI secara etis, turun dari 58% pada tahun 2023.
Pemimpin keamanan TI menyadari perlunya upaya untuk membangun kepercayaan ini, terlihat dari 45% yang belum sepenuhnya yakin akan akurasi atau transparansi hasil AI mereka, dan 52% belum memberikan transparansi penuh tentang pemanfaatan data pelanggan dalam AI.
Tata kelola data menjadi kunci utama dalam perkembangan AI agen. Meskipun 71% pemimpin TI Indonesia mengklaim memiliki data berkualitas, hanya 57% yang yakin AI agen mereka beroperasi dengan izin dan protokol yang benar, dan hanya 43% yang percaya bahwa sistem pengamanan mereka sudah memadai. Pemberlakuan Undang-Undang Perlindungan Data Pribadi (PDP) di Indonesia semakin menegaskan pentingnya tata kelola data.
Meskipun terdapat tantangan, adopsi AI agen terus meningkat. Lebih dari 51% tim keamanan TI di Indonesia sudah menggunakan AI agen dalam pekerjaan sehari-hari, dan angka ini diperkirakan akan berlipat ganda dalam dua tahun ke depan, dengan 84% mengharapkan penggunaan AI agen dalam periode tersebut.
Cek Berita dan Artikel yang lain di
Google News
