Adendum ini bertujuan memberikan panduan praktis bagi pemilik sistem dalam mengamankan sistem Kecerdasan Buatan (AI) Agentik. Pengumuman ini disampaikan oleh Josephine Teo, Menteri Pembangunan Digital dan Informatika sekaligus Menteri yang bertanggung jawab atas Smart Nation dan Keamanan Siber, pada Singapore International Cyber Week (SICW) 2025.
AI terus mendorong efisiensi dan inovasi di berbagai sektor. Untuk memanfaatkan sepenuhnya manfaat AI, pengguna harus yakin bahwa AI akan berfungsi sesuai tujuan awal dan sistemnya tetap aman. Tahun lalu, CSA menerbitkan Pedoman dan Panduan Pendamping tentang Mengamankan Sistem AI untuk membantu organisasi mengadopsi AI dengan cara yang aman.
Pedoman ini menetapkan prinsip-prinsip keamanan dasar bagi pemilik sistem untuk mengamankan penggunaan AI sepanjang siklus hidupnya, sementara Panduan Pendamping memberikan langkah-langkah dan kontrol praktis yang dapat dipertimbangkan oleh pemilik sistem dalam mematuhi Pedoman tersebut.
AI Agentik atau Agentic AI memiliki kemampuan canggih untuk memahami konteks, merumuskan rencana, dan mengambil tindakan independen untuk mencapai tujuan yang ditentukan. Kemampuan baru ini membawa serta risiko-risiko baru, dengan potensi dampak yang lebih besar mengingat kemampuan baru AI agentik serta aksesnya ke berbagai alat dan data.
Mengingat risiko-risiko ini dan meningkatnya minat dalam penggunaan AI Agentik, CSA telah mengembangkan Adendum ini bersama mitra industri, pemerintah, dan internasional untuk mendukung pemilik sistem dalam mengamankan sistem AI agentik mereka. Adendum ini dirancang untuk dibaca bersama dengan Pedoman dan Panduan Pendamping.
Adendum ini menguraikan bagaimana risiko dapat diidentifikasi dan dinilai berdasarkan kemampuan sistem AI Agentik, misalnya dengan memetakan alur kerja agentik untuk mengidentifikasi di mana pelaku ancaman berpotensi mengeksploitasi kerentanan. Selain itu, Adendum ini juga menyediakan kontrol praktis untuk memitigasi risiko-risiko yang relevan di seluruh siklus hidup pengembangan.
Contoh-contoh praktis juga akan diberikan untuk mengilustrasikan bagaimana Adendum dapat diterapkan di berbagai skenario dan tingkat otonomi sistem. Ini termasuk kasus penggunaan seperti pengembangan aplikasi dan asisten pengkodean, sistem orientasi klien otomatis, dan sistem deteksi penipuan otomatis.
Konsultasi publik mengenai Adendum ini akan berlangsung dari 22 Oktober 2025 hingga 31 Desember 2025.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
