Pergeseran dari AI yang hanya menjawab menjadi AI yang bertindak ini membawa implikasi besar bagi keamanan siber, dan otomatis mengubah peran Chief Information Security Officer (CISO) di perusahaan.
Menurut Poornima Debolle, General Manager of Data Security dan Chief Technology & Security Officer di Menlo Security, begitu agen dapat bergerak dan tidak hanya berbicara, wilayah serangan siber meluas secara dramatis.
Model keamanan tradisional seperti firewall dan VPN tidak dibangun untuk sistem otonom yang dapat membuat panggilan API, mengatur kode, dan mengambil tindakan di luar batas jaringan tradisional. Debolle menegaskan bahwa Agen AI bukanlah sebuah fitur, melainkan akan menjadi mandat CISO ke depan.
Tantangan keamanan yang diperkenalkan oleh Agen AI benar-benar baru. Kelemahan LLM seperti halusinasi atau prompt hoisting kini dapat menyebabkan tindakan yang salah, bukan hanya jawaban yang salah. Selain itu, otonomi agen meningkatkan "blast rate" (radius ledakan), di mana satu agen yang terkompromi dapat menyebar dan merusak data dengan kecepatan mesin.
"Keamanan LLM saja tidak cukup," tegas Debolle. "Kita sekarang membutuhkan model ancaman yang dibangun untuk agen-agen".
Dalam paparannya, Debolle menguraikan enam tanggung jawab baru bagi CISO:
1. Data Ready AI: CISO kini harus mengamankan data pelatihan dan grounding untuk mencegah kebocoran, model poisoning, dan hallucination feedback loops.
2. Identitas Non-Manusia: Perusahaan akan segera mengelola ratusan ribu kredensial agen AI. Debolle menyebut ini sebagai "krisis identitas baru," di mana rasio identitas mesin terhadap manusia bisa melonjak hingga 2.000 banding 1.
3. Kontrol Akses: Kontrol harus beralih dari tepi jaringan ke "penegakan waktu nyata" (runtime enforcement) dan akses least-privilege untuk setiap panggilan API dan alat yang digunakan agen.
4. Visibilitas dan Audit: Tantangan terbesar adalah beralih dari mengetahui apa yang terjadi menjadi memahami mengapa agen mengambil keputusan tersebut. Tanpa jejak forensik ini, respons insiden hampir tidak mungkin dilakukan.
5. Kebijakan dan Kepatuhan: CISO harus menyelaraskan operasi agen dengan regulasi AI baru seperti EU AI Act dan NIST AI RF.
6. Infrastruktur: CISO perlu membangun infrastruktur yang sadar AI, seperti agen penjaga (guardian agents) untuk memonitor agen lain dan proksi khusus untuk memeriksa lalu lintas antar-agen.
Debolle menyarankan CISO untuk tidak menunggu regulasi sempurna. Langkah praktis yang dapat diambil sekarang termasuk mengamankan jalur data, menggunakan browser perusahaan yang aman sebagai lapisan penegakan kritis, dan menerapkan lapisan kontrol eksternal seperti kill switch.
Pada akhirnya, peran CISO berevolusi. "CISO di masa depan bukan lagi hanya seorang penjaga keamanan," kata Debolle. "Mereka adalah seorang orkestrator kepercayaan di antara manusia dan mesin. Tugas mereka adalah memungkinkan inovasi tanpa mengorbankan integritas." Organisasi yang paling sukses, tutupnya, adalah mereka yang membangun keamanan ke dalam struktur AI, bukan di sekitarnya.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
