Meskipun ada alat penerjemahan, umumnya alat-alat tersebut tidak mampu mereplikasi gaya dan istilah dalam bahasa lokal, sehingga menghasilkan output yang kurang realistis.
Namun, dengan berkembangnya AI generatif yang pesat, menjadikannya alat yang dapat diandalkan baik untuk orang biasa maupun penjahat siber kelas kakap. Hal ini memungkinkan mereka menggunakan Model Bahasa Besar (LLM) untuk menghasilkan pesan tertulis, visual, atau audio yang hampir tidak dapat dibedakan dari konten sebenarnya. Yang terpenting, konten ini dapat dibuat secara instan, hingga memungkinkan penjahat siber merespons pesan dari korbannya secara real-time.
Berikut penjelasan Scott Jarkoff, Director, Strategic Threat Advisory Group, APJ & EMEA, CrowdStrike terkait fenomena ini.
1. Bagaimana AI generatif dapat digunakan untuk memperparah modus penipuan konsumen yang sudah merajalela di pasar Asia Tenggara?
Hal yang membuat AI generatif sangat berbahaya adalah teknologi ini dapat mempelajari gaya dari berbagai bahasa, dialek, bahkan bahasa gaul dan bahasa sehari-hari dari kumpulan data yang besar, sehingga memungkinkan pelaku menghasilkan komunikasi yang terdengar autentik. Dengan adanya AI generatif, para penjahat siber skala besar dapat membuat konten dengan mudah, bahkan dapat dimanfaatkan oleh orang awam untuk mengeksploitasinya.
Dahulu, mungkin Anda dapat menentukan apakah sebuah pesan atau email merupakan upaya phishing atau penipuan dengan mencari celah kesalahan seperti kesalahan tata bahasa atau ejaan. Biasanya penjahat siber juga lebih cenderung menggunakan bahasa global seperti bahasa Inggris, dibanding bahasa lain.
Hal ini disebabkan oleh skala ekonomi, karena semakin banyak orang yang menggunakan bahasa tersebut dan biaya untuk mencanangkan serangan menjustifikasi jangkauan serangan tersebut. Namun kini, dengan AI generatif yang canggih, kesalahan yang ada pada pesan tersebut dapat diminimalisasi dan kemampuan untuk menerjemahkan konten ke berbagai bahasa secara cepat juga meningkat pesat.
2. Bagaimana pelaku ancaman menggunakan AI generatif untuk melakukan kampanye rekayasa sosial dan operasi informasi yang lebih efisien?
AI generatif digunakan untuk membuat gambar dan video yang sangat realistis untuk menyebarkan disinformasi. Disinformasi sengaja dibuat untuk menyesatkan, merugikan, atau memanipulasi suatu entitas, baik itu individu, kelompok sosial, organisasi, atau bahkan suatu negara. Kampanye-kampanye tersebut digencarkan untuk mengganggu layanan dan menimbulkan kekacauan.
Saat ini, penggunaan konten secara global melalui penggunaan AI generatif dan alat komunikasi massa seperti platform media sosial memungkinkan negara-negara, kelompok teroris, dan kelompok kejahatan terorganisir untuk secara anonim dan cepat menyebarkan berita manipulatif, memengaruhi persepsi publik, dan mengganggu wacana sipil.
3. Contoh nyata tentang bagaimana kampanye operasi informasi China, yang kemungkinan menggunakan gambar yang dihasilkan oleh AI generatif (gambar yang dihasilkan oleh model difusi) telah meraih kepopuleran di beberapa platform media sosial sepanjang bulan September, dan bagaimana hal ini dapat terjadi di pasar Asia Tenggara?
Berdasarkan pengamatan CrowdStrike, pelaku kejahatan China-nexus akan terus menargetkan berbagai sektor di Asia Tenggara termasuk pemerintah, telekomunikasi, militer, dan masyarakat sipil untuk mendukung prioritas kolektivitas intelijen nasional. Mereka memanfaatkan berbagai alat untuk mencapai tujuan ini.
Sepanjang tahun 2023, musuh-musuh China-nexus terus memanfaatkan kemampuan rahasianya yang berskala besar untuk mengumpulkan data pengawasan kelompok sasaran, intelijen strategis, dan kekayaan intelektual. CrowdStrike percaya bahwa China-nexus Adversaries kemungkinan besar akan memanfaatkan teknologi AI generatif untuk melakukan operasi informasi China di negara-negara di dalam dan sekitar Asia Tenggara.
Terdapat jaringan operasi informasi yang pro-China, disebut sebagai Shadow Play, yang menyebarkan luaskan beberapa narasi penting antara pertengahan tahun 2022 hingga awal tahun 2024.
Narasi yang paling dominan menggambarkan China sebagai juara persaingan ekonomi global, khususnya menyoroti persaingan AS-China dalam teknologi. Narasi tambahan menampilkan China dan Rusia sebagai pemimpin global yang bertanggung jawab, berkemampuan tinggi, dan dapat dipercaya.
Jaringan Shadow Play memperoleh kepopuleran yang signifikan, menarik sekitar 730.000 subscribers dan ditonton hampir 120 juta kali secara global, serta berpotensi membahayakan Asia Tenggara. Operasi informasi yang berbasis di China akan terus bertambah ukuran dan kecanggihannya seiring berkembangnya teknologi AI generatif.
Dalam menggunakan AI generatif diperlukan sifat kritis, terlebih dalam memperoleh, melatih, maupun mengatur teknologi tersebut. Tim keamanan yang menggunakan AI generatif juga harus menyadari risiko dan mematuhi prinsip-prinsip utama akurasi, privasi, dan keamanan guna memastikan pemakaian etis dan bertanggung jawab.
Ketika memakai AI generatif, organisasi harus waspada terhadap informasi yang tidak akurat, terutama informasi mengenai keamanan yang dapat memberikan risiko berbahaya. Maka dari itu, penting untuk memahami sumber data dan memahami bahwa jawaban dari AI generatif dapat diaudit.
Dari sudut pandang privasi, pengguna juga harus memahami data apa yang dibagikan dengan pihak ketiga dan data apa yang mereka bawa melalui model bahasa yang digunakan.
Dalam hal keamanan, penting untuk mempertimbangkan risiko internal dan eksternal yang hadir dari pemaparan data yang tidak sah, serangan dari pihak lain, injeksi prompt, atau kebocoran prompt.
Melihat fenomena tersebut, CrowdStrike selalu menekankan pentingnya peran manusia dalam pendekatan keamanan. Terutama dalam penggunaan AI generatif, kemampuan manusia dalam memberikan konteks dan memvalidasi kebenaran menjadi krusial.
Bagaimana alat keamanan berbasis AI dapat dengan cepat menemukan ancaman tersembunyi, mempercepat pengambilan keputusan untuk analisis keamanan, dan menyederhanakan tugas kompleks
CrowdStrike telah menjadi yang terdepan dalam penggunaan AI untuk keamanan siber selama lebih dari satu dekade. AI yang kami miliki telah dilatih menghadapi triliunan peristiwa keamanan dari berbagai sumber.
Tim pakar perburuan ancaman yang berkelas, respons insiden, serta deteksi dan respons terkelola CrowdStrike terus memberikan umpan balik yang terus menerus untuk memastikan keakuratan, privasi, dan keamanan dari penggunaan AI kami.
Untuk mempermudah organisasi menerima AI generatif dengan aman, CrowdStrike memerhatikan dengan baik kebutuhan dan kekhawatiran tim keamanan dalam pengembangan Charlotte AI, mesin yang mendukung portofolio kemampuan AI generatif kami di seluruh platform.
Kami memprioritaskan privasi data, meminimalisir halusinasi, dan memastikan pengawasan manusia karena kami memahami bahwa informasi yang ditampilkan Charlotte AI kepada para analis akan memainkan peran penting dalam menginformasikan keputusan mereka.
Terakhir, Charlotte AI memberdayakan manusia dengan memungkinkan semua pengguna untuk mendapatkan wawasan yang dapat ditindaklanjuti secara real-time dan mendorong pengambilan keputusan berbasis risiko yang lebih baik terlepas dari tingkat keahlian mereka.
Charlotte AI mempermudah analis untuk menemukan informasi penting dengan cepat dan tepat, sehingga memangkas waktu kerja menjadi hitungan menit, serta memanfaatkan fungsionalitas terbaru dan kecerdasan real-time dari Platform Falcon asli CrowdStrike.
Cek Berita dan Artikel yang lain di
Google News
