Menurut Francis deSouza, Chief Operating Officer Google Cloud, kehadiran AI agent akan mengubah fungsi Security Operations Center (SOC). Jika sebelumnya SOC berperan sebagai pusat pemantauan, kini akan berevolusi menjadi mesin otomatisasi yang mampu mendeteksi anomali, menganalisis data, hingga memicu respons dalam hitungan jam. Kecepatan ini menjadi krusial karena penyerang siber beroperasi semakin cepat, tidak lagi dalam hitungan minggu, melainkan jam.
Dengan otomatisasi, tim keamanan dapat fokus pada pengambilan keputusan kompleks yang membutuhkan penilaian manusia, sementara tugas-tugas teknis ditangani oleh AI. Pergeseran ini diyakini akan memperkuat postur keamanan organisasi secara menyeluruh.
Namun, teknologi saja tidak cukup. Laporan menekankan bahwa titik lemah terbesar tetap ada pada manusia. Karyawan yang tidak siap menghadapi serangan berbasis AI akan menjadi pintu masuk empuk bagi penyerang. Oleh karena itu, perusahaan dituntut membangun budaya literasi AI di seluruh lapisan organisasi.
Google Cloud mendorong perusahaan untuk mengadakan pelatihan intensif, simulasi cyber war games, hingga lokakarya SOC berbasis agentic AI. Tujuannya agar tenaga kerja tidak hanya memahami cara menggunakan AI, tetapi juga mampu mengenali ancaman baru seperti prompt injection atau manipulasi suara berbasis voice cloning.
Salah satu risiko yang diangkat adalah munculnya “shadow agents” – AI pribadi yang digunakan karyawan tanpa persetujuan perusahaan, lalu terhubung ke sistem internal. Hal ini menciptakan jalur data yang tidak terkontrol dan berpotensi menimbulkan kebocoran informasi.
Selain itu, kegagalan Identity and Access Management (IAM) diprediksi menjadi vektor utama serangan. Dengan semakin banyaknya agen AI yang beroperasi, setiap agen harus diperlakukan sebagai aktor digital dengan identitas tersendiri. Pengelolaan hak akses granular, least privilege, dan just-in-time access akan menjadi standar baru.
Ransomware, pencurian data, dan pemerasan berlapis masih menjadi kategori paling merugikan secara finansial. Namun, ancaman baru muncul: kampanye otomatis di mana AI digunakan untuk menemukan dan mengeksploitasi celah lebih cepat daripada kemampuan tim keamanan menambalnya.
Di sektor keuangan, pelaku kriminal diperkirakan semakin memanfaatkan blockchain untuk memperkuat operasi mereka, membuat upaya penindakan tradisional semakin sulit.
Dewan direksi kini menuntut agar risiko keamanan diterjemahkan ke dalam bahasa finansial: potensi kerugian dalam dolar dan return on investment dari investasi keamanan. Regulasi juga akan semakin menekankan ketahanan AI, termasuk pemantauan kesehatan model secara berkelanjutan dan integrasi AI ke dalam rencana keberlangsungan bisnis.
Cek Berita dan Artikel yang lain di
Google News
