Namun, di balik adopsi teknologi tersebut, muncul tantangan baru berupa penggunaan AI yang tidak diawasi atau dikenal sebagai shadow AI. Kondisi ini dinilai berpotensi membuka celah keamanan apabila organisasi tidak memiliki visibilitas terhadap layanan AI yang digunakan oleh karyawan.
Managing Director Kaspersky untuk APAC, Adrian Hia mengingatkan bahwa perusahaan tidak hanya perlu memanfaatkan AI untuk meningkatkan efisiensi, tetapi juga memastikan teknologi tersebut digunakan secara aman.
"Saat ini kita bukan lagi menghadapi shadow IT, melainkan sudah bergeser dan memasuki era shadow AI," ujar Hia dalam pemaparannya di ajang Kaspersky Cyber Security Week yang berlangsung pada hari Senin, 3 Agustus 2026.
Hia menjelaskan bahwa selama bertahun-tahun organisasi berupaya mengatasi shadow IT, yaitu penggunaan software atau layanan teknologi tanpa persetujuan divisi TI. Kini tantangan tersebut bergeser ke penggunaan berbagai platform AI generatif, layanan pencarian berbasis AI, hingga pustaka atau library dan agen AI yang diunduh secara mandiri oleh pengguna tanpa pengawasan perusahaan.
Menurutnya, kondisi tersebut dapat meningkatkan risiko kebocoran data dan memperluas permukaan serangan atau attack surface, terutama ketika pengguna memasukkan informasi sensitif ke dalam layanan AI publik.
Ancaman Siber Makin Kompleks di Era AI
Dalam presentasinya, Hia mengatakan perkembangan AI juga dimanfaatkan oleh pelaku kejahatan siber. Jika sebelumnya serangan didominasi phishing atau pencurian identitas, kini ancaman berkembang menjadi serangan lebih rumit terhadap infrastruktur penting, perangkat operasional (OT), hingga fasilitas publik.Hia menyebut peningkatan kemampuan AI memungkinkan pembuatan malware, ransomware, maupun teknik serangan baru menjadi lebih cepat dibandingkan dengan sebelumnya. Karena itu, organisasi perlu mengantisipasi perubahan lanskap ancaman dengan pendekatan keamanan lebih adaptif.
Selain itu, Kaspersky juga mengamati meningkatnya jumlah sampel malware baru yang ditemukan setiap hari. Kondisi tersebut menunjukkan bahwa otomatisasi berbasis AI tidak hanya dimanfaatkan oleh industri keamanan siber, tetapi juga oleh pihak yang berniat melakukan serangan.
Dalam menghadapi situasi tersebut, Hia menilai AI harus dimanfaatkan sebagai alat pertahanan. Teknologi pembelajaran mesin atau machine learning telah digunakan selama bertahun-tahun untuk membantu mendeteksi ancaman, menyaring aktivitas mencurigakan, serta mempercepat proses analisis insiden. Namun demikian, Hia menegaskan keputusan akhir tetap harus berada di tangan manusia.
Visibilitas Aset Menjadi Kunci Perlindungan
Selain membahas AI, Hia juga menyoroti pentingnya visibilitas terhadap seluruh aset digital yang dimiliki organisasi. Menurutnya, banyak perusahaan hanya berfokus pada perlindungan laptop, server, atau layanan cloud, sementara perangkat lain yang juga terhubung ke jaringan sering kali luput dari perhatian.Perangkat seperti kamera CCTV, smart TV, printer, perangkat IoT, hingga sistem operasional lama masih menjadi bagian dari infrastruktur perusahaan dan dapat dimanfaatkan sebagai titik masuk serangan apabila tidak diawasi dengan baik.
Hia menjelaskan bahwa organisasi perlu mengetahui seluruh perangkat yang terhubung ke jaringan sebelum dapat memberikan perlindungan secara efektif. Tanpa visibilitas tersebut, perusahaan akan kesulitan mengidentifikasi risiko maupun merespons insiden keamanan dengan cepat.
Sebagai bagian dari strategi tersebut, Kaspersky mengembangkan platform yang dirancang untuk memberikan gambaran menyeluruh mengenai perangkat TI, OT, dan IoT yang terhubung ke lingkungan perusahaan. Dengan demikian, organisasi dapat mengetahui aset yang dimiliki sekaligus menentukan langkah perlindungan yang sesuai.
Di sisi lain, Hia juga mengungkapkan bahwa perusahaan tengah menyiapkan solusi baru untuk membantu mengamankan ekosistem AI, khususnya dalam mendeteksi risiko pada library dan komponen AI open source sebelum digunakan dalam proses pengembangan aplikasi.
Menurutnya, penggunaan agen AI dan pustaka sumber terbuka diperkirakan akan terus meningkat. Oleh sebab itu, perusahaan membutuhkan mekanisme pemeriksaan untuk memastikan komponen yang diunduh bebas dari malware maupun backdoor sebelum diterapkan di lingkungan produksi.
Melalui pendekatan tersebut, Kaspersky berharap perusahaan tidak hanya mampu memanfaatkan AI sebagai alat untuk meningkatkan produktivitas, tetapi juga memiliki kemampuan untuk melindungi teknologi AI yang digunakan.
Hia menutup pemaparannya dengan menegaskan bahwa keamanan siber di era AI harus berjalan dalam dua arah, yaitu memanfaatkan AI untuk memperkuat pertahanan sekaligus memastikan AI itu sendiri tetap aman dari berbagai ancaman.
Jadikan Medcom.id sumber informasi pilihan Anda
