Teknologi tersebut menggunakan model machine learning yang berjalan langsung di perangkat pengguna untuk mencari pola komunikasi yang mengindikasikan scam.
Pendekatan ini menjadi penting karena WhatsApp tetap mempertahankan privasi percakapan. Menurut WhatsApp, isi pesan tidak dikirim ke server perusahaan untuk dianalisis, dan pesan juga tidak otomatis dilaporkan ketika model mendeteksi indikasi penipuan.
Scam Alert saat ini masih diuji secara terbatas di sejumlah wilayah sebelum WhatsApp mempertimbangkan distribusi yang lebih luas.
Scam Alert Bekerja Langsung di HP
Menurut laporan situs PCMag, perbedaan utama fitur ini terletak pada cara proses deteksi dilakukan.WhatsApp akan mengunduh model machine learning ke perangkat pengguna. Model tersebut kemudian menganalisis teks menggunakan klasifikasi untuk mencari karakteristik percakapan yang memiliki kemungkinan mengarah pada penipuan.
Karena proses berlangsung secara lokal, isi pesan tidak perlu dikirim ke WhatsApp, Meta, atau pihak lain hanya untuk menentukan apakah percakapan tersebut mengandung indikasi scam.
WhatsApp menegaskan bahwa pesan tidak otomatis dilaporkan hanya karena model mendeteksi potensi penipuan. Data pesan maupun informasi bahwa sebuah percakapan terdeteksi scam baru dapat diteruskan ke server ketika pengguna sendiri memilih untuk melaporkannya.
Pendekatan tersebut dirancang agar fitur keamanan tetap berjalan tanpa membuka akses langsung ke percakapan pribadi.
Bagaimana Fitur WA Penipu Ini Bekerja?
Ketika Scam Alert menilai sebuah pesan memiliki kemungkinan kuat sebagai upaya penipuan, pengguna akan melihat peringatan di dalam chat.Peringatan tersebut hanya terlihat oleh pengguna dan tidak ditampilkan kepada lawan bicara.
Dari sana, pengguna dapat menentukan tindakan berikutnya:
- Blokir kontak yang dianggap mencurigakan
- Laporkan percakapan kepada WhatsApp
- Tetap melanjutkan percakapan jika pengguna merasa pesan tersebut sebenarnya aman
WhatsApp juga menyediakan pilihan untuk menandai chat sebagai trusted apabila peringatan dianggap keliru. Setelah chat dipercaya, Scam Alert tidak akan kembali memberikan peringatan untuk percakapan tersebut.
Dalam kondisi itu, pengguna juga bisa secara sukarela membagikan lima pesan terakhir yang diterima kepada WhatsApp untuk membantu meningkatkan akurasi sistem.
Apakah Scam Alert Membaca Isi Chat?
Ini menjadi salah satu pertanyaan paling penting terkait fitur tersebut. WhatsApp menyatakan tidak ada isi pesan yang secara otomatis dikirim ke WhatsApp atau Meta untuk proses klasifikasi. Model machine learning yang digunakan berjalan di perangkat pengguna.Perusahaan juga mengatakan data pesan maupun fakta bahwa sebuah scam terdeteksi hanya dapat sampai ke server ketika pengguna mengambil tindakan sendiri, seperti memilih opsi pelaporan.
Dengan mekanisme tersebut, WhatsApp berusaha menjembatani dua kebutuhan yang selama ini sulit dipadukan: kemampuan mendeteksi penipuan dan perlindungan percakapan pribadi.
AI Dilatih dari Pola Percakapan Penipuan
Scam Alert menggunakan model yang dilatih berdasarkan pola yang terlihat dalam percakapan scam yang sebelumnya telah dilaporkan pengguna.WhatsApp menjelaskan model tersebut melakukan klasifikasi probabilistik dengan melihat struktur percakapan dan sinyal linguistik. Jadi, sistem tidak sekadar mencari kata tertentu, melainkan mencoba melihat pola komunikasi yang lebih luas.
Pendekatan ini juga ditujukan untuk menghadapi bentuk penipuan yang semakin berkembang, termasuk penyamaran identitas dan umpan yang dibuat menggunakan AI.
Namun, karena bersifat probabilistik, kemungkinan terjadinya false positive tetap ada. Itulah sebabnya WhatsApp memberikan kontrol kepada pengguna untuk membatalkan peringatan dengan menandai chat sebagai terpercaya.
WhatsApp Tetap Mengumpulkan Telemetri
Meski isi pesan tidak dikirim, WhatsApp tetap membutuhkan data teknis tertentu untuk mengevaluasi kinerja Scam Alert.WhatsApp menyebut data yang dikumpulkan berupa telemetri anonim dan agregat, seperti berapa kali peringatan scam muncul dan kategori tindakan pengguna setelah melihat peringatan.
Data ini dikirim ke server khusus yang menggunakan Trusted Execution Environment (TEE) dengan infrastruktur berbasis AMD dan Nvidia serta perlindungan enkripsi.
Yang diklaim dapat dilihat WhatsApp hanya berupa statistik agregat, seperti jumlah peringatan yang ditampilkan dan berapa kali pengguna memilih mempercayai pengirim, memblokir, atau melaporkannya.
WhatsApp mengatakan informasi tersebut tidak mengungkap isi pesan, identitas pengirim atau penerima, maupun percakapan mana yang memicu peringatan.
Kapan Scam Alert WhatsApp Tersedia?
Untuk saat ini, Scam Alert belum diluncurkan secara luas. WhatsApp masih menjalankan pengujian terbatas di beberapa wilayah untuk menguji efektivitas model dan mengukur tingkat kesalahan deteksi.Perusahaan juga membuka informasi teknis mengenai sistem tersebut kepada komunitas keamanan untuk mendapatkan masukan sebelum fitur diperluas.
Bagi pengguna WhatsApp, teknologi ini menjadi perkembangan menarik karena penipuan melalui pesan terus berubah. Namun, sampai distribusinya diperluas, pengguna tetap perlu berhati-hati terhadap pesan yang meminta kode OTP, data pribadi, transfer uang, atau tautan mencurigakan.
Jadikan Medcom.id sumber informasi pilihan Anda
