Kekhawatiran ini terus bermunculan di tengah publik seiring semakin berkembangnya agentic AI. Saat AI tak lagi cuma asisten yang diperintah, tapi sudah bisa belajar dari kesalahan dan bisa melakukan beragam operasi. Mungkinkah AI akan terus "aman"?
Medcom.id berkesempatan melakukan wawancara eksklusif dengan Director of Applied Science Amazon Web Services (AWS), Neha Rungta, di ajang AWS Re:Invent 2025. Dalam wawancara singkat seputar 15 menit tersebut, Rungta membongkar pendekatan fundamental AI security yang kasat mata bagi pengguna.
"Verifikasi dan proving sistem AI tidak terlihat saat ini. Dan tidak akan terlihat di masa depan," kata Rungta di sela AWS re:Invent 2025, Las Vegas, Selasa, 2 Desember 2025.
Inilah pekerjaan di belakang layar yang dilakukan timnya dalam membangun dan membuktikan keamanan sistem kecerdasan buatan (AI). Doktor keilmuan automated reasoning ini menilai kunci membangun kepercayaan pengguna terletak pada konsep "bukti" absolut. Mirip dengan pembuktian dalam matematika.
Ia memberikan analogi sederhana namun sangat dekat dengan publik. Teorema Pythagoras.
"Kita tahu teorema itu berlaku untuk semua segitiga siku-siku di dunia, bukan karena kita menguji satu per satu, tetapi karena ada bukti matematisnya. Itu adalah standar tertinggi," ujar Rungta.
"Dalam keamanan, kita ingin mencapai keyakinan serupa. Kita tidak bisa hanya bilang 'ini aman'. Aman terhadap apa? Itu harus ada dalam konteks spesifik, dengan hipotesis dan jaminan yang jelas," terang Rungta.
Rungta menjelaskan bahwa AWS menerapkan prinsip "bukti" ini ke dalam layanan intinya. Misalnya, sebuah bucket penyimpanan S3 dapat dijamin tidak akan pernah terbuka untuk akses publik karena desain sistemnya.
"Itu berarti, terlepas dari bagaimana AWS berkembang nanti—menambah region atau layanan baru—jaminan bahwa bucket itu tidak akan menjadi publik tetap berlaku. That's the proof. Itu yang memberikan kepastian kepada pengguna," tegas Rungta.
Seni dan sains mendefinisikan "publik"
Salah satu tantangan teknis terbesar dalam keamanan modern, termasuk keamanan AI, adalah mendefinisikan batasan akses. Rungta mengangkat pertanyaan kritis: bagaimana mendefinisikan siapa atau apa itu "publik"?
"Apakah orang-orang di konferensi ini 'publik'? Sebagian besar ya, karena kita tidak saling mengenal. Kami melakukan banyak penelitian tentang cara menentukan apakah sesuatu seharusnya publik. Di sinilah banyak seni dan sains bertemu," kata Rungta
Solusi yang diusung timnya adalah dengan menggeser paradigma. Alih-alih menyebut sesuatu publik atau tidak publik, tim keamanan AI AWS mendefinisikan apa yang 'terpercaya' (trusted).
"Kami dapat memberitahu sistem apa yang Anda percayai berdasarkan kebijakan yang Anda tetapkan sendiri. Dengan begini, beban tidak sepenuhnya jatuh pada pengguna akhir," kata dia.
Tujuan akhir: keamanan yang tak terlihat
Menanggapi kekhawatiran publik tentang AI yang lepas kendali, Rungta menyatakan bahwa tujuan akhir dari keamanan AI adalah justru untuk menyederhanakan hidup pengembang dan tim keamanan.
"Tujuan akhirnya adalah mengurangi masalah bagi pengembang. Agar mereka tidak perlu terus-menerus memikirkan keamanan, tetapi sistem tetap aman. Dan agar tim keamanan tidak terus mengejar masalah-masalah yang sama seperti sekarang," kata Rungta.
Ia mengakui bahwa akan selalu ada tantangan baru, seperti pengawasan terhadap AI agent atau interaksi antar agent. Namun, visi ahli AI Security di AWS sudah jelas.
"Tujuan pertama kami adalah agar masalah keamanan aplikasi yang kita lihat hari ini akan hilang dalam beberapa tahun ke depan, berkat jenis alat, teknologi, dan agent yang kami bangun," tegas Rungta.
Dengan pendekatan berbasis bukti dan fokus pada otomatisasi pembuktian, Rungta dan tim keamanan AI AWS berambisi untuk membangun fondasi yang memungkinkan inovasi AI berlangsung dengan cepat. Tapi tetap di dalam batas-batas keamanan yang dapat dijamin secara matematis dan kontekstual.
Cek Berita dan Artikel yang lain di
Google News
