Presiden Direktur ITSEC, Patrick Dannacher, menyebut ada dua pertanyaan mendasar yang harus bisa dijawab sebelum perusahaan menambah AI agent ke dalam operasional: berapa banyak AI agent yang dimiliki dan apakah perusahaan mampu mengetahui secara lengkap ketika sebuah agent melakukan kesalahan.
Pernyataan tersebut disampaikan Patrick dalam forum Techpresso yang diselenggarakan Medcom.id di Jakarta. Dalam pemaparannya, ia menjelaskan bahwa agentic AI membawa perubahan besar dibanding AI generatif biasa. Sistem ini tidak hanya menghasilkan jawaban, dokumen, atau rekomendasi, tetapi dapat mengambil tindakan sendiri.
Perubahan tersebut membuat kebutuhan keamanan ikut bergeser. Patrick menyarankan agar AI agent dipahami seperti seorang karyawan digital: memiliki peran, akses terhadap sistem dan data, serta kewenangan untuk menjalankan pekerjaan.
“Kita harus melihat AI agent seperti karyawan. Kita perlu memahami peran apa yang mereka miliki, akses apa yang mereka punya, dan kewenangan apa yang diberikan,” ujar Patrick.
Dua Pertanyaan untuk Mengukur Kesiapan
Pertanyaan pertama terdengar sederhana: perusahaan tahu berapa banyak AI agent yang sedang berjalan di organisasinya?Pertanyaan kedua justru jauh lebih sulit. Ketika sebuah agent melakukan kesalahan, perusahaan harus mampu mengetahui apa yang salah, bagaimana kesalahan itu terjadi, mengapa hal tersebut bisa terjadi, serta apakah tersedia audit trail untuk menelusuri prosesnya.
Kebutuhan tersebut muncul karena agentic AI tidak lagi hanya memberikan output untuk diperiksa manusia. Agent dapat menjalankan tindakan berdasarkan akses dan kewenangan yang diberikan. Kesalahan pada tahap ini berarti persoalannya bisa merembet dari sekadar jawaban keliru menjadi tindakan di dalam sistem perusahaan.
Patrick juga menyoroti angka kesiapan yang berasal dari penilaian perusahaan sendiri. Ia menyebut sekitar 30 persen perusahaan merasa siap, sementara 19 persen mengaku sangat yakin. Namun, angka tersebut masih berupa self-assessment dan belum otomatis membuktikan bahwa kesiapan mereka telah diuji dalam kondisi nyata.
Adopsi AI di Indonesia Terus Meningkat
Tekanan untuk menggunakan AI juga semakin besar. Patrick menyebut 17 persen perusahaan di Indonesia sudah menggunakan AI, sedangkan 60 persen ingin mengadopsinya dalam dua tahun mendatang.Menurutnya, perusahaan sulit mengabaikan perkembangan tersebut karena kompetitor yang lebih cepat mengadopsi AI dapat meningkatkan tekanan persaingan. Namun, percepatan adopsi tetap harus dibarengi pengetahuan mengenai cara implementasi dan pengamanan teknologi tersebut.
Kondisi ini membuat persoalan agentic AI bukan hanya soal memilih platform atau memasang AI agent. Organisasi juga harus memahami bagaimana agent bekerja, sumber data yang digunakannya, serta batas kewenangan yang diberikan.
Akses AI Agent Harus Dibatasi
Patrick mengingatkan pentingnya memberikan akses spesifik kepada setiap AI agent sesuai tugasnya.Perusahaan perlu memahami bagaimana agent bekerja, alasan di balik tindakannya, dan data apa saja yang dibutuhkan. Akses terhadap data juga sebaiknya dibatasi hanya pada informasi yang memang diperlukan untuk menjalankan pekerjaannya.
Prinsipnya mirip ketika perusahaan memberikan akses kepada pegawai baru. Seorang karyawan tidak otomatis mendapatkan hak akses ke seluruh sistem perusahaan. Logika serupa perlu diterapkan pada AI agent, terlebih sistem tersebut dapat menjalankan pekerjaan secara mandiri.
Kesiapan agentic AI juga tidak bisa dilepaskan dari cybersecurity. Patrick menilai AI tanpa pertimbangan keamanan merupakan persoalan, sementara cybersecurity modern juga membutuhkan AI untuk menghadapi perubahan lingkungan teknologi.
Artinya, ukuran kesiapan perusahaan bukan sekadar sudah memiliki AI agent atau belum. Organisasi perlu mengetahui agent apa saja yang bekerja, akses apa yang mereka miliki, kewenangan apa yang diberikan, dan apakah setiap tindakan dapat ditelusuri ketika terjadi masalah.
