CTO DANA Indonesia, Norman Sasono, mengungkap bahwa penggunaan deepfake untuk melakukan aksi kejahatan bukan lagi sekadar skenario hipotesis, tapi telah banyak terjadi.
“People think theoretically, it's like a science fiction movie. No, it's real. We've seen it,” ujarnya.
Menurut Norman, salah satu tren yang semakin terlihat adalah penggunaan deepfake dalam proses verifikasi identitas atau KYC (Know Your Customer). Pelaku dapat mencoba memanfaatkan teknologi tersebut untuk menyamarkan identitas ketika melakukan proses pendaftaran atau verifikasi.
Untuk mengantisipasi hal tersebut sistem dapat memberikan tantangan tambahan kepada pengguna yang dianggap mencurigakan, misalnya meminta pengguna menyalakan kamera dan melakukan pengenalan wajah. Teknologi AI digunakan untuk membantu mendeteksi apakah wajah yang digunakan merupakan identitas asli atau hasil manipulasi deepfake.
“Give more challenge. Get more data from you to confirm whether it’s real or fraud. For example, we can do pin with face recognition, with passkey, or with app verify,” jelas Norman.
Teknologi yang digunakan bahkan dikembangkan untuk mendeteksi hubungan antarpelaku. DANA menyebut penggunaan graph AI dan graph database untuk membantu mengidentifikasi bukan hanya satu scammer, tetapi kemungkinan adanya jaringan atau kelompok penipu yang saling terhubung.
AI Makin Canggih, Manusia Tetap Jadi Titik Lemah
Di sisi lain, perkembangan teknologi tidak hanya dimanfaatkan perusahaan untuk meningkatkan keamanan. Pelaku kejahatan juga menggunakan AI untuk membuat modus penipuan menjadi semakin meyakinkan, sementara scamming dan phishing masih terus berlangsung.
Karena itu, perlindungan teknologi perlu berjalan beriringan dengan peningkatan literasi digital. Norman menilai pengguna tetap menjadi salah satu titik yang paling mudah dieksploitasi ketika panik atau kurang memahami risiko, misalnya dengan membagikan OTP dan PIN kepada pihak yang tidak bertanggung jawab.
“No matter how much you protect the system, the weakest link is usually the human,” ujar Norman.
Upaya melindungi pengguna tidak cukup hanya mengandalkan sistem keamanan, tetapi juga membutuhkan kerja sama seluruh pelaku industri untuk meningkatkan literasi digital masyarakat.
Kondisi tersebut membuat perusahaan teknologi finansial perlu menghadapi AI dengan AI. DANA pun mengembangkan berbagai sistem berbasis kecerdasan buatan untuk mendeteksi transaksi mencurigakan, mengenali deepfake, hingga mengantisipasi pola jaringan penipu yang semakin kompleks. (Wisa Irena Br Sitepu)
