Laporan tersebut menjelaskan bahwa serangan ini memanfaatkan kepercayaan publik terhadap platform AI dan mesin pencari besar. Dalam praktiknya, pelaku menciptakan percakapan dengan chatbot seputar topik yang banyak dicari, seperti “cara membersihkan ruang penyimpanan di Mac”, dikutip dari situs Engadget.
Melalui percakapan itu, mereka menyelipkan instruksi berbahaya, misalnya perintah terminal, lalu membuat percakapan tersebut dapat diakses publik dan membayarnya agar muncul di peringkat teratas hasil pencarian Google.
Ketika pengguna yang tidak waspada mencari topik serupa di Google dan mengklik tautan tersebut, mereka diarahkan ke percakapan AI yang tampak kredibel. Setelah mengikuti saran yang disediakan chatbot dan menyalin perintah ke terminal komputer, malware pun otomatis terpasang.
Menurut Huntress, salah satu kasus yang ditelusuri menunjukkan bahwa serangan ini digunakan untuk menyebarkan malware bernama AMOS, yang menargetkan perangkat macOS dengan tujuan mencuri data pengguna.
Dalam uji coba yang dilakukan tim keamanan itu, baik ChatGPT maupun Grok dilaporkan mampu mereplikasi pola serangan yang sama ketika diminta oleh peretas untuk memberikan instruksi terminal kepada pengguna.
Huntress menyoroti bahwa metode ini tergolong berbahaya karena nyaris tak menampilkan tanda-tanda klasik dari serangan siber. Korban tidak perlu mengunduh file mencurigakan, menginstal aplikasi berbahaya, atau mengklik tautan phishing. Mereka hanya perlu mengikuti instruksi yang disarankan chatbot di laman yang tampak sah dan berasal dari platform terpercaya seperti Google atau OpenAI.
“Trik ini bekerja karena korban sudah ‘dipersiapkan untuk percaya’ pada dua merek besar yang mereka kenal, Google dan ChatGPT,” tulis Huntress dalam laporannya.
Setelah publikasi laporan itu, tautan percakapan ChatGPT berisi perintah berbahaya tersebut memang telah dihapus dari hasil pencarian Google, namun tautan itu sempat aktif selama lebih dari 12 jam.
Peristiwa ini menjadi peringatan baru di tengah meningkatnya penggunaan teknologi AI generatif dalam kehidupan digital. Huntress dan sejumlah pakar keamanan menegaskan agar pengguna tidak pernah menyalin atau menempelkan perintah ke terminal komputer maupun bilah alamat browser tanpa memahami fungsinya.
Langkah-langkah keamanan dasar seperti pembaruan sistem, penggunaan antivirus, dan verifikasi sumber informasi juga disarankan untuk mencegah serangan serupa. Insiden ini muncul di tengah sorotan terhadap dua raksasa AI, ChatGPT dari OpenAI dan Grok milik xAI yang masing-masing tengah menghadapi tekanan reputasi.
Sementara Grok dikritik karena dinilai terlalu berpihak pada Elon Musk, OpenAI disebut sedang tertinggal dalam inovasi dibandingkan para pesaingnya. Hingga kini belum diketahui apakah teknik serangan ini juga dapat diterapkan pada chatbot lain.
Namun para pakar keamanan menilai bahwa kombinasi antara AI generatif, algoritma pencarian, dan kepercayaan pengguna terhadap sumber ternama berpotensi membuka era baru manipulasi digital berbasis kecerdasan buatan.
Cek Berita dan Artikel yang lain di
Google News
