Kondisi ini membuat organisasi perlu membangun fondasi keamanan sejak awal sebelum AI digunakan secara luas di lingkungan produksi.
Pandangan tersebut disampaikan oleh Nandini Ramani, Vice President Governance and Compliance Amazon Web Services (AWS), yang menilai organisasi saat ini berada dalam fase transisi ketika kemampuan AI berkembang sangat pesat, sementara mekanisme perlindungannya masih terus mengejar ketertinggalan.
"Saya rasa keamanan dan tata kelola AI saat ini belum mampu mengimbangi kecepatan perkembangan model AI. Karena itu, kami juga terus bergerak cepat mengembangkan solusi agar pelanggan dapat tetap menggunakannya secara aman," kata Ramani dalam sesi wawancara bersama media di Jakarta dalam rangka acara AWS Summit Jakarta 2026.
AI Kini Tidak Lagi Sekadar Memberi Jawaban
Ramani menjelaskan, tantangan keamanan AI saat ini berbeda dibandingkan beberapa tahun lalu ketika AI generatif masih berfungsi sebagai alat bantu menghasilkan konten atau menjawab pertanyaan.Menurutnya, generasi terbaru AI mulai memasuki era agentic AI, yakni AI yang mampu memahami tujuan, melakukan penalaran (reasoning), hingga menjalankan serangkaian tindakan secara lebih mandiri untuk menyelesaikan suatu pekerjaan. Perubahan inilah yang membuat pendekatan keamanan harus ikut berevolusi.
"Untuk pertama kalinya kita memiliki sistem yang mempunyai kemampuan bertindak sendiri (agency). Sebelumnya semua keputusan selalu dipicu manusia. Kini AI dapat mengejar tujuan tertentu dan bahkan menemukan cara-cara baru untuk mencapainya," ujarnya.
Ia mencontohkan perkembangan model AI yang kini mampu membuat alur penyelesaian masalah secara kreatif, termasuk menjalankan beberapa agen AI lain untuk menyelesaikan tugas tertentu. Menurutnya, kemampuan tersebut membawa peluang besar bagi produktivitas, tetapi di saat yang sama memperluas potensi risiko keamanan.
Keamanan Harus Dibangun Sebelum AI Digunakan
Ramani menegaskan bahwa pendekatan keamanan tidak lagi cukup dilakukan setelah sistem AI selesai dibangun. Sebaliknya, perlindungan harus dirancang sejak tahap pengembangan agar risiko dapat dicegah sebelum AI digunakan secara luas."Jika kita baru memperbaiki masalah setelah AI dijalankan, maka itu sudah terlambat karena sistemnya sudah telanjur dilepas. Yang paling penting adalah memastikan seluruh permukaan serangan diamankan sejak awal," katanya.
Menurut AWS, pendekatan tersebut sejalan dengan prinsip security by design yang selama ini diterapkan perusahaan, di mana pengujian keamanan, penetration testing, serta pemodelan ancaman dilakukan sejak proses pengembangan aplikasi, bukan setelah produk dirilis.
Ramani menilai prinsip tersebut kini menjadi semakin penting karena AI tidak hanya dimanfaatkan oleh perusahaan, tetapi juga mulai digunakan oleh pelaku kejahatan siber untuk mencari celah keamanan secara otomatis.
AI Mempercepat Serangan Sekaligus Pertahanan
Di sisi lain, Ramani mengakui bahwa perkembangan AI juga memberikan keuntungan bagi pelaku kejahatan siber.Menurutnya, model AI yang sama dapat dimanfaatkan untuk menemukan kerentanan sistem maupun membuat serangan baru dengan kecepatan yang jauh lebih tinggi dibandingkan sebelumnya.
"AI memberikan keuntungan yang sama bagi pelaku kejahatan siber. Mereka memiliki akses ke model yang sama dan dapat menggunakannya untuk mencari maupun menciptakan kerentanan dengan kecepatan mesin," ujarnya.
Karena itu, AWS juga mengembangkan sistem pertahanan berbasis AI untuk mendeteksi pola ancaman, memblokir serangan, dan membantu pelanggan mengamankan lingkungan cloud mereka sebelum serangan terjadi. Pendekatan tersebut, menurut Ramani, menjadi bagian dari strategi AWS dalam menjaga keamanan beban kerja tradisional maupun aplikasi berbasis agentic AI.
Agentic AI Masih di Tahap Awal
Meski adopsi AI berkembang sangat cepat, Ramani menilai teknologi agentic AI sebenarnya masih berada pada tahap awal implementasi.Ia menyebut saat ini hanya sebagian kecil agen AI yang berhasil digunakan di lingkungan produksi. Namun, angka tersebut diperkirakan akan terus meningkat seiring berkembangnya mekanisme keamanan, tata kelola, dan guardrails yang membuat perusahaan lebih percaya diri mengimplementasikan AI dalam skala besar.
"Kami masih berada di awal perjalanan agentic AI. Namun ketika adopsinya semakin luas, kami ingin memastikan pelanggan sudah memiliki perangkat keamanan yang tepat untuk menggunakannya dengan aman," kata Ramani.
Jadikan Medcom.id sumber informasi pilihan Anda
