Pakar keamanan siber global, Kaspersky, memperingatkan bahwa kerusakan aktual yang dapat diakibatkan AI, mulai dari layanan pelanggan yang buruk hingga penghancuran basis data utama perusahaan, menuntut tindakan cepat dari para pemimpin bisnis dan pakar keamanan.
Dokumen berjudul "Tips Kaspersky Dalam Mengelola Agen AI di Organisasi Anda" menyoroti bahwa bagi Chief Information Officer (CIO) dan Chief Information Security Officer (CISO), agen AI menciptakan masalah tata kelola yang sangat besar.
Agen-agen ini membuat keputusan, menggunakan alat, dan memproses data sensitif tanpa campur tangan manusia, membuat banyak alat TI dan keamanan standar menjadi tidak mampu mengendalikan ancaman baru ini.
Untuk memitigasi risiko keamanan siber secara signifikan, Kaspersky merekomendasikan serangkaian kontrol yang ketat—mendekati strategi Zero Trust—meskipun menyadari sifat probabilistik Large Language Model (LLM) membuat keamanan yang benar-benar sempurna menjadi mustahil.
Langkah-langkah utama yang digariskan Kaspersky berfokus pada pembatasan dan pengawasan menyeluruh terhadap agen AI:
Otonomi dan Hak Akses Minimal: Batasi otonomi agen dengan tugas-tugas yang batasannya didefinisikan secara ketat. Agen hanya boleh memiliki akses ke alat, API, dan data perusahaan tertentu yang diperlukan, dengan izin dikurangi seminimal mungkin, seperti mode baca saja (read-only).
Kredensial Berumur Pendek: Guna mencegah penyerang menggunakan kembali kredensial yang disusupi, organisasi harus menerbitkan token dan kunci API sementara dengan cakupan terbatas untuk setiap tugas.
Keterlibatan Manusia Wajib: Konfirmasi eksplisit dari manusia tetap wajib untuk tindakan berisiko tinggi atau tidak dapat dibatalkan, seperti otorisasi transfer keuangan atau penghapusan data massal.
Isolasi dan Kontrol Lalu Lintas: Agen harus menjalankan kode dan alat di lingkungan terisolasi (sandbox) dengan daftar izin ketat (allowlist) untuk mencegah panggilan keluar yang tidak sah.
Penegakan Kebijakan dan Validasi Data: Kebijakan ketat harus diterapkan untuk memeriksa rencana dan argumen agen terhadap aturan keamanan sebelum beroperasi. Selain itu, filter dan skema validasi khusus harus digunakan untuk memeriksa semua permintaan dan respons model dari konten berbahaya atau injeksi.
Aspek krusial lainnya adalah pemantauan dan pencatatan. Organisasi didorong untuk menerapkan sistem otomatis untuk mendeteksi anomali perilaku, seperti lonjakan tiba-tiba dalam panggilan API atau upaya replikasi diri, yang difasilitasi oleh solusi XDR dan pemrosesan telemetri di SIEM. Setiap tindakan dan pesan antar agen juga harus dicatat dalam log yang tidak dapat diubah (immutable log) untuk audit dan investigasi forensik di masa mendatang.
Terakhir, Kaspersky menekankan pentingnya Pelatihan bagi Pengguna secara sistematis mengenai realitas operasional sistem bertenaga AI. Mengingat perkembangan bidang ini yang begitu cepat, pelatihan perlu diperbarui beberapa kali dalam setahun.
Untuk analis SOC, pengembang, dan arsitek AI, Kaspersky juga merekomendasikan kursus khusus Kaspersky Expert Training: Large Language Models Security.
Cek Berita dan Artikel yang lain di
Google News
