Laporan tersebut mengidentifikasi empat area utama, dengan erosi kepercayaan ini paling terlihat. Pertama, penggunaan AI dan risiko kebocoran data. Analisis dari Check Point's GenAI Protect mengungkapkan bahwa satu dari setiap 80 prompt GenAI memiliki risiko tinggi kebocoran data sensitif. Selain itu, 7,5% prompt mengandung informasi yang berpotensi sensitif, menimbulkan tantangan keamanan, kepatuhan, dan integritas data yang kritis.
Kedua, peracunan data LLM (Large Language Model) dan disinformasi. Aktor jahat memanipulasi data pelatihan AI untuk memutarbalikkan output. Contohnya, jaringan disinformasi Rusia, Pravda, menunjukkan chatbot AI mengulangi narasi palsu 33% dari waktu, menekankan perlunya integritas data yang kuat dalam sistem AI.
Ketiga, malware dan penambangan data yang dibuat oleh AI. Penjahat siber memanfaatkan AI untuk membuat dan mengoptimalkan malware, mengotomatiskan kampanye DDoS, dan memperbaiki kredensial yang dicuri. Layanan seperti Gabbers Shop menggunakan AI untuk memvalidasi dan membersihkan data curian, meningkatkan nilai jual kembali dan efisiensi penargetan.
Keempat, persenjataan dan pembajakan model AI. Dari akun LLM yang dicuri hingga Dark LLM khusus seperti FraudGPT dan WormGPT, penyerang melewati mekanisme keamanan dan mengkomersialkan AI sebagai alat untuk peretasan dan penipuan di dark web.
Lotem Finkelstein, Direktur Check Point Research, menyatakan bahwa adopsi AI yang cepat oleh penjahat siber sudah membentuk ulang lanskap ancaman. Finkelstein memperingatkan tentang kemunculan "kembaran digital", replika berbasis AI yang mampu meniru pemikiran dan perilaku manusia.
Laporan ini juga menekankan bahwa pembela siber harus mengasumsikan AI tertanam dalam kampanye musuh. Organisasi harus mengadopsi kerangka kerja keamanan siber yang sadar AI, termasuk Deteksi Dibantu AI, Verifikasi Identitas yang Ditingkatkan, dan Intelijen Ancaman dengan Konteks AI.
Laporan Keamanan AI 2025 lengkap dapat diunduh di tautan yang disediakan oleh Check Point Research. Dengan peningkatan ancaman AI, organisasi didesak untuk mengintegrasikan AI ke dalam pertahanan mereka untuk tetap selangkah lebih maju dari penyerang.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
