Pelaku ancaman berbagi cara memanipulasi model dan menampilkan konten tanpa sensor, yang pada akhirnya memungkinkan peretas dan penjahat menggunakan AI untuk membuat konten berbahaya.
Disebut jailbreaking, ada banyak metode untuk menghapus sensor dari model AI. Namun, sekarang kita melihat panduan mendalam tentang metode jailbreaking, melewati perlindungan anti-penipuan, dan mengembangkan malware itu sendiri.
Baik Qwen dan DeepSeek telah menunjukkan potensi sebagai alat yang ampuh untuk membuat konten berbahaya dengan batasan minimal. Sementara ChatGPT telah berinvestasi secara substansial dalam ketentuan anti-penyalahgunaan selama dua tahun terakhir, model yang lebih baru ini tampaknya menawarkan sedikit resistensi terhadap penyalahgunaan, sehingga menarik lonjakan minat dari berbagai tingkat penyerang, terutama yang berketerampilan rendah —individu yang mengeksploitasi skrip atau alat yang ada tanpa pemahaman mendalam tentang teknologi yang mendasarinya.
Sangat penting untuk digarisbawahi bahwa terlepas dari mekanisme anti-penyalahgunaan ChatGPT, versi ChatGPT yang tidak disensor sudah tersedia di berbagai repositori di internet. Ketika model AI baru ini mendapatkan popularitas, contoh serupa dari DeepSeek dan Qwen yang tidak disensor diantisipasi akan muncul, yang semakin meningkatkan risiko yang terlibat.
Berikut adalah beberapa contoh yang mengkhawatirkan tentang bagaimana mesin AI ini digunakan untuk tujuan jahat dan kemudian dibagikan di web terbuka untuk penggunaan aktor ancaman tambahan.
Mengembangkan Infostealer
Pelaku ancaman telah dilaporkan membuat pencuri informasi menggunakan Qwen, dengan fokus pada menangkap informasi sensitif dari pengguna yang tidak menaruh curiga.
Perintah Jailbreak
Jailbreak mengacu pada metode yang memungkinkan pengguna memanipulasi model AI untuk menghasilkan konten tanpa sensor atau tidak dibatasi. Taktik ini telah menjadi teknik yang disukai oleh penjahat dunia maya, memungkinkan mereka memanfaatkan kemampuan AI untuk niat jahat.
Pada tangkapan layar di bawah ini, penjahat dunia maya membagikan perintah jailbreak untuk DeepSeek yang dapat memanipulasi respons model, termasuk metode seperti pendekatan "Do Anything Now" dan mengeksploitasi teknik seperti metode "Plane Crash Survivors".
Melewati Perlindungan Perbankan
Berbagai diskusi dan teknik bersama tentang penggunaan DeepSeek untuk melewati perlindungan anti-penipuan sistem perbankan telah ditemukan, yang menunjukkan potensi pencurian keuangan yang signifikan.
Distribusi Spam Massal
Penjahat dunia maya menggunakan tiga model AI—ChatGPT, Qwen, dan DeepSeek bersama-sama —untuk memecahkan masalah dan mengoptimalkan skrip untuk distribusi spam massal, meningkatkan efisiensi aktivitas berbahaya mereka.
Ancaman Siber yang Muncul: Sisi Gelap Alat AI Canggih
Munculnya model seperti Qwen dan DeepSeek menandai tren yang mengkhawatirkan dalam lanskap ancaman dunia maya, di mana alat canggih semakin dieksploitasi untuk tujuan jahat.
Karena pelaku ancaman menggunakan teknik canggih seperti jailbreak untuk melewati langkah-langkah perlindungan dan mengembangkan pencuri informasi, pencurian keuangan, dan distribusi spam, urgensi bagi organisasi untuk menerapkan pertahanan proaktif terhadap ancaman yang berkembang ini memastikan pertahanan yang kuat terhadap potensi penyalahgunaan teknologi AI.
Di tengah perlombaan untuk mengembangkan dan merilis model GenAI baru, keamanan harus diprioritaskan, atau organisasi akan terus terpapar risiko yang tidak dapat diterima.
Cek Berita dan Artikel yang lain di
Google News
