Jakarta: Perkembangan kecerdasan buatan (AI) tidak hanya membuka peluang baru bagi industri, tetapi juga memperbesar tantangan keamanan digital. Ketika AI mulai mampu menjalankan tugas secara lebih mandiri atau kini dikenal sebagai agentic AI, kebutuhan terhadap perlindungan data dan sistem digital menjadi semakin mendesak.
Tenaga Ahli Bidang Kecerdasan Artifisial dan Transformasi Digital Badan Riset Inovasi Nasional (BRIN), Hammam Riza mengatakan perkembangan agentic AI akan diikuti kebutuhan yang semakin besar terhadap keamanan. Karena itu, keamanan tidak boleh menjadi fitur tambahan setelah teknologi selesai dikembangkan.
"Semakin banyak AI yang akan kita gunakan, apalagi agentic AI, akan semakin besar pula kebutuhan terhadap privacy, security, trusted identity, kriptografi, sampai kepada ketahanan siber," ujar Hammam dalam acara Techpresso di Studio Grand Metro TV, Kamis 10 September 2026.
Menurutnya, pengembangan AI harus menerapkan prinsip security by design. Artinya, aspek keamanan sudah harus dipikirkan sejak tahap awal ketika sebuah teknologi AI dirancang dan dikembangkan.
"Riset AI itu juga harus mengikutkan cyber security dari sejak awal, security by design, sehingga AI safety dan AI security itu menjadi fondasi daripada rumah AI yang ingin kita bangun untuk Indonesia," katanya.
Hammam menilai keamanan menjadi semakin penting ketika AI digunakan untuk sektor-sektor strategis. Teknologi tersebut nantinya dapat digunakan dalam layanan publik, kesehatan, pendidikan, keuangan, hingga berbagai proses industri.
Sementara itu, CEO Media Group Mirdal Akib sebelumnya juga menempatkan ketahanan siber sebagai salah satu dari tiga pilar kesiapan Indonesia menghadapi era AI. Menurutnya, sistem digital dan aset data harus mendapat perlindungan ketika teknologi mulai bekerja secara mandiri.
Selain keamanan, Mirdal menyebut dua pilar lainnya adalah regulasi yang adaptif dan kesiapan talenta manusia. Ketiganya dinilai perlu berjalan beriringan agar pemanfaatan AI tidak hanya mengejar produktivitas, tetapi juga memperhatikan risiko.
Ia menilai kesiapan AI Indonesia tidak cukup hanya diukur dari kemampuan membuat model atau aplikasi. Keamanan, privasi, identitas digital, dan ketahanan siber harus menjadi bagian dari fondasi sejak awal pengembangan teknologi
"AI yang kuat harus dibangun bersamaan dengan kepercayaan digital. Sebab, semakin besar peran AI dalam kehidupan masyarakat, semakin besar pula konsekuensi jika sistem tersebut tidak aman atau tidak dapat dipercaya," tutur Mirdal.
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
