Karyawan yang makin terbiasa mengandalkan asisten dan agen AI kini terjangkit fenomena 'prompt fatigue'—kondisi ketika pengguna secara refleks menyetujui setiap permintaan izin keamanan tanpa melakukan verifikasi terlebih dahulu.
Ancaman psikologis dan teknis ini menjadi salah satu sorotan utama dalam ajang Cybersecurity Weekend APAC 2026. Sojun Ryu, Senior Security Researcher GReAT, Kaspersky, mengungkapkan bahwa celah terbesar dalam keamanan berbasis AI saat ini bukan terletak pada kecanggihan algoritmanya. Celah ini ada pada ketimpangan antara kecepatan eksekusi dan kecepatan verifikasi manusia.
Konfirmasi Tanpa Evaluasi
Berdasarkan temuan data riset Entropi pada pengguna layanan cloud, persentase konfirmasi izin AI disetujui pengguna tanpa pemeriksaan mendalam. Dahulu, teknologi AI hanya berfungsi sebagai alat bantu pembuat konten (AI Tools). Kini, evolusi AI telah memasuki fase AI Agents—sistem otonom yang mampu menyusun rencana kerja, mengeksekusi API, serta mengakses komponen pihak ketiga. Transisi ini membuat agen AI membutuhkan akses jaringan dan sistem yang jauh lebih luas.Kemudahan ini memungkinkan staf non-teknis di divisi pemasaran, keuangan, hingga operasional untuk membuat skrip otomatis dan memasang ekstensi tambahan hanya dengan beberapa klik. Ketika agen AI secara berulang meminta persetujuan akses untuk menjalankan perintah eksternal, pengguna cenderung mengalami kejenuhan konfirmasi.
Riset yang dikutip Kaspersky menunjukkan bahwa pengguna sistem Cloud menyetujui sekitar 93% permintaan izin yang muncul. Semakin tinggi frekuensi peringatan yang diterima karyawan, semakin rendah tingkat kewaspadaan mereka. Tombol Approve atau Trust diklik begitu saja semata-mata agar alur kerja tidak terhambat.
"Para penyerang secara aktif mengeksploitasi celah yang tercipta ketika pengembangan berbasis AI mendorong manusia untuk percaya lebih cepat daripada kemampuan mereka untuk memverifikasi," ungkap Sojun.
Dari Klik Refleks Menjadi Celah
Keputusan instan untuk memercayai ekstensi atau workspace eksternal membawa risiko sistemik bagi perusahaan. Penyerang kini menyamarkan kode berbahaya dalam bentuk paket open-source, ekstensi kode pihak ketiga, atau konfigurasi workspace (seperti berkas tasks.json di Visual Studio Code). Begitu karyawan menekan tombol setuju, perintah berbahaya dapat langsung dieksekusi di latar belakang.Kaspersky mencatat bahwa sepanjang tahun 2025, sebanyak 31% entitas bisnis telah terdampak oleh serangan rantai pasokan (software supply chain attack). Akses awal yang didapat melalui ekstensi terinfeksi atau persetujuan karyawan menjadi batu pijakan bagi peretas untuk mencuri kredensial, meretas repositori kode internal, dan menyisipkan malware ke dalam produk akhir perusahaan.
Langkah Mitigasi
Mengatasi fenomena prompt fatigue tidak bisa hanya mengandalkan imbauan agar karyawan lebih berhati-hati. Kunci utamanya terletak pada restrukturisasi arsitektur keamanan organisasi:1. Zona Kepercayaan Terpisah: Perusahaan harus membuat batas tegas antara lingkungan konten eksternal dan aset pengembangan internal. Jangan biarkan ekstensi atau agen AI memiliki akses tak terbatas ke infrastruktur inti.
2. Kontrol Alur Masuk Perangkat Lunak: Penggunaan ekstensi, repositori, dan pustaka kode pihak ketiga harus melewati penyaringan otomatis sebelum diizinkan masuk ke perangkat karyawan.
3. Keamanan Lingkungan Kerja: Fokus keamanan siber harus bergeser dari sekadar memeriksa produk jadi menjadi mengamankan seluruh ekosistem tempat perangkat lunak dan alur kerja AI dibuat.
Integrasi AI memang menjanjikan efisiensi luar biasa. Namun, tanpa pembatasan otomatisasi dan kontrol izin yang ketat, kecepatan yang ditawarkan AI justru akan menjadi celah tercepat bagi peretas untuk mengompromikan seluruh jaringan perusahaan.
Jadikan Medcom.id sumber informasi pilihan Anda
