Chief Information Officer (CIO) dan Chief Information Security Officer (CISO) kini bergulat dengan potensi kerusakan yang ditimbulkan oleh AI otonom, mulai dari layanan pelanggan yang buruk hingga ancaman yang lebih parah seperti menghancurkan basis data utama perusahaan.
Menanggapi situasi ini, perusahaan keamanan siber global Kaspersky telah merilis serangkaian kontrol ketat yang dirancang untuk memitigasi risiko keamanan siber dari agen AI, dengan pendekatan yang mendekati strategi Zero Trust.
Menurut Kaspersky, banyak alat TI dan keamanan standar yang tidak memadai untuk mengendalikan AI. Oleh karena itu, organisasi didorong untuk menerapkan langkah-langkah yang ketat meskipun mereka mengakui bahwa keamanan yang benar-benar sempurna mungkin tidak mungkin karena sifat probabilistik dari Large Language Model (LLM).
Langkah pertama yang krusial adalah menerapkan prinsip otonomi minimal dan hak akses minimal, yang berarti membatasi otonomi agen dengan tugas berbatasan ketat dan memastikan mereka hanya memiliki akses ke alat, API, dan data perusahaan yang benar-benar diperlukan, bahkan mengurangi izin hingga mode baca saja.
Selain itu, organisasi harus menggunakan kredensial yang berumur pendek, menerbitkan token dan kunci API sementara dengan cakupan terbatas untuk setiap tugas guna mencegah penyerang menggunakan kembali kredensial jika terjadi pembobolan.
Untuk operasi yang dianggap kritis atau berisiko tinggi, seperti mengotorisasi transfer keuangan atau penghapusan data massal, konfirmasi manusia secara eksplisit tetap wajib. Kaspersky juga menekankan pentingnya isolasi eksekusi dan kontrol lalu lintas, yang mengharuskan kode dan alat dijalankan di lingkungan terisolasi seperti container atau sandbox dengan daftar izin yang ketat untuk koneksi jaringan.
Penegakan kebijakan yang ketat sangat diperlukan untuk memeriksa rencana dan argumen agen terhadap aturan keamanan sebelum mereka beroperasi, disusul dengan validasi dan sanitasi input dan output menggunakan filter dan skema validasi khusus di setiap tahap pemrosesan data untuk mencegah injeksi dan konten berbahaya.
Aspek lain yang ditekankan adalah pencatatan log yang aman secara berkelanjutan, dengan mencatat setiap tindakan dan pesan antar agen dalam log yang tidak dapat diubah untuk keperluan audit dan investigasi forensik di masa mendatang.
Organisasi juga perlu menerapkan sistem otomatis untuk pemantauan perilaku dan agen pengawas guna mendeteksi anomali mendadak; perusahaan yang telah memperkenalkan XDR dan mengolah telemetri di SIEM akan memiliki keunggulan di sini. Kontrol rantai pasokan dan SBOM (Software Bills of Materials) juga menjadi keharusan, dengan hanya menggunakan alat dan model yang diverifikasi dari registri tepercaya.
Setiap baris kode yang ditulis agen harus melalui analisis statis dan dinamis untuk kerentanan sebelum dijalankan, dan penggunaan fungsi berbahaya seperti eval() harus dilarang sepenuhnya, sebuah praktik yang direkomendasikan dilakukan dengan alat otomatisasi seperti yang ditemukan di Kaspersky Cloud Workload Security.
Langkah-langkah tambahan termasuk mengamankan komunikasi antar agen dengan otentikasi dan enkripsi timbal balik serta menggunakan tanda tangan digital, serta memiliki Kill Switches untuk mengunci agen atau alat tertentu segera setelah perilaku anomali terdeteksi. Terakhir, penggunaan UI untuk kalibrasi kepercayaan dengan indikator risiko visual dan peringatan tingkat kepercayaan dapat mengurangi risiko manusia mempercayai AI secara berlebihan.
Pelatihan pengguna yang sistematis tentang sistem bertenaga AI harus menjadi prioritas dan diperbarui beberapa kali dalam setahun mengingat perkembangan cepat di bidang ini. Sebagai sumber daya tambahan, Kaspersky merekomendasikan kursus Kaspersky Expert Training: Large Language Models Security untuk analis SOC, pengembang, dan arsitek AI.
Cek Berita dan Artikel yang lain di
Google News
