Namun, laporan terbaru The State of Generative AI 2025 yang dirilis oleh Palo Alto Networks membawa peringatan keras: kode yang dihasilkan oleh asisten AI ternyata menyimpan potensi bahaya serius, mulai dari pola tidak aman hingga penyisipan malware.
Penggunaan alat pengembang AI (AI developer tools) seperti Microsoft Power Apps, GitHub Copilot, Tabnine, dan Codeium kini sangat masif. Laporan mencatat bahwa industri Teknologi Tinggi (High Tech) dan Manufaktur menjadi pengguna terbesar, menyumbang sekitar 39% dari seluruh transaksi terkait coding.
Daya tariknya jelas: alat ini menawarkan saran real-time dan mengotomatisasi alur kerja yang repetitif, memungkinkan engineer untuk fokus pada inovasi. Namun, ketergantungan yang tinggi ini membuka celah risiko baru yang sering kali luput dari pengawasan.
Temuan paling mengkhawatirkan dari tim riset Palo Alto Networks adalah kerentanan pada output yang dihasilkan oleh GenAI. Laporan tersebut mengungkapkan bahwa aplikasi GenAI yang mampu menghasilkan kode ditemukan rentan terhadap pembuatan malware serta penyisipan tautan berbahaya (malicious links) di dalam respons yang mereka berikan kepada pengguna.
Selain itu, kode sumber yang dihasilkan AI berpotensi mengandung pola yang tidak aman dan pustaka (libraries) yang rentan. Jika developer langsung menyalin dan menempelkan (copy-paste) kode tersebut tanpa pemeriksaan mendalam, mereka berisiko menyuntikkan kerentanan keamanan yang dapat dieksploitasi (eksploitasi) ke dalam aplikasi perusahaan, yang pada akhirnya dapat memicu eksekusi kode berbahaya.
Selain menyisipkan kode jahat, alat coding AI juga menjadi vektor kebocoran data. Pada tahun 2024, perusahaan teknologi tinggi rata-rata mengunduh sekitar 53GB dan mengunggah 14GB data per perusahaan ke aplikasi asisten kode. Besarnya volume data yang diunggah—yang sering kali berupa kode sumber rahasia (proprietary)—ke alat pihak ketiga ini menimbulkan risiko paparan data tanpa perlindungan yang memadai.
Risiko ini bukan sekadar teori. Peneliti keamanan berhasil mendemonstrasikan eksfiltrasi data dari aplikasi percakapan yang memiliki kemampuan coding dengan tingkat keberhasilan mencapai 9,9%. Angka ini menunjukkan bahwa celah keamanan pada alat bantu coding cukup signifikan untuk dimanfaatkan oleh aktor jahat guna mencuri informasi sensitif.
Menghadapi risiko ini, Palo Alto Networks menekankan bahwa meskipun efisiensi adalah prioritas, keamanan tidak boleh dikorbankan. Laporan tersebut menyarankan tim keamanan IT untuk melakukan pemeriksaan ketat (vetting) terhadap aplikasi yang digunakan serta menerapkan penyaringan konten yang komprehensif di mana pun dimungkinkan.
Cek Berita dan Artikel yang lain di
Google News
