Keputusan layanan AI generatif milik xAI yang terafiliasi dengan Elon Musk ini dipicu oleh maraknya penyalahgunaan teknologi AI tersebut untuk memproduksi konten pornografi palsu atau deepfake seksual non-konsensual yang menyasar warga negara Indonesia.
Langkah berani ini menjadikan Indonesia sebagai negara pertama di dunia yang bereaksi secara hukum dan teknis terhadap ancaman spesifik dari Grok. Kebijakan ini segera diikuti oleh pemerintah Malaysia satu hari setelahnya, menandakan adanya keresahan regional terkait regulasi AI yang dianggap belum mampu membendung konten negatif.
Pemblokiran ini bukan tanpa alasan kuat. Sejumlah laporan kekerasan berbasis gender online (KBGO) yang melibatkan manipulasi foto menggunakan teknologi Grok telah mencuat ke publik. Salah satu kasus yang memicu perhatian luas adalah kasus yang dialami oleh Kirana Ayuningtyas, aktivis disabilitas.
Kirana menjadi korban manipulasi foto oleh pihak tidak bertanggung jawab menggunakan fitur AI tersebut. Ironisnya, meski akun pelaku telah dihapus oleh platform, hasil manipulasi foto yang merendahkan martabat tersebut tetap beredar luas di jagat maya, meninggalkan jejak digital yang sulit dihapus.
Kasus serupa dialami oleh Susan, seorang pengguna platform X lainnya. Susan melaporkan adanya manipulasi foto dirinya yang berujung pada pelecehan seksual berbasis AI. Kedua kasus ini menjadi bukti nyata bahwa ancaman deepfake bukan sekadar isu teknis, melainkan bentuk nyata dari Kekerasan Berbasis Gender Online (KBGO) yang menghancurkan integritas dan kehormatan korban.
Pemerintah Indonesia menegaskan bahwa penyebaran deepfake seksual adalah pelanggaran serius terhadap Hak Asasi Manusia (HAM) dan martabat warga negara. Dalam keterangannya, Komdigi menyatakan bahwa tujuan utama pemblokiran ini adalah untuk melindungi kelompok rentan, terutama perempuan dan anak-anak, dari risiko eksploitasi konten pornografi palsu yang dihasilkan oleh mesin.
"Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat serta keamanan warga negara di ruang digital," kata Menteri Komunikasi dan Digital Meutya Hafid melalui pernyataan resminya di laman Komdigi.
Saat ini, pemerintah juga sedang mempercepat penyusunan Buku Putih Peta Jalan Kecerdasan Artifisial Nasional. Dokumen ini diproyeksikan menjadi fondasi kuat bagi regulasi AI di masa depan, sehingga inovasi dapat berjalan beriringan dengan standar etika dan hukum yang berlaku.
Langkah Indonesia menciptakan efek domino di kancah internasional. Malaysia turut mengambil tindakan serupa dengan memblokir Grok, menyatakan bahwa penyalahgunaan AI telah menghasilkan konten cabul tanpa izin yang meresahkan masyarakat.
Sementara itu di Inggris, lembaga pengawas media Ofcom telah membuka penyelidikan resmi terhadap platform X. Penyelidikan tersebut berfokus pada dugaan pelanggaran undang-undang keamanan daring atau Online Safety Act terkait cara platform tersebut memoderasi konten yang dihasilkan oleh AI mereka.
Kendati langkah pemerintah mendapat dukungan dari sisi perlindungan korban, sejumlah organisasi masyarakat sipil memberikan catatan kritis. SAFEnet menilai bahwa pemblokiran akses aplikasi merupakan solusi instan yang tidak menyentuh akar permasalahan.
Menurut SAFEnet, pembatasan akses tidak akan efektif sepenuhnya jika tidak dibarengi dengan edukasi dan pembenahan sistem pelaporan lebih komprehensif. Di sisi lain, Komnas Perempuan menekankan bahwa kasus seperti yang dialami Kirana dan Susan secara hukum telah memenuhi unsur dalam Pasal 14 Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS) mengenai kekerasan berbasis elektronik.
Namun, lembaga tersebut menyoroti lemahnya penegakan hukum di lapangan. Rendahnya angka penuntutan terhadap pelaku KBGO menciptakan rasa aman semu bagi pelaku atau impunitas, sehingga mereka merasa bebas melakukan kejahatan serupa berulang kali.
Urgensi regulasi yang tegas didukung oleh data statistik yang mengkhawatirkan. Berdasarkan catatan SAFEnet, terdapat 605 kasus KBGO pada triwulan III tahun 2025, berarti terjadi lebih dari 6 kasus setiap harinya.
Sementara itu, laporan tahunan Komnas Perempuan menunjukkan lonjakan kasus KBGO sebesar 40,8% pada tahun 2025 dibandingkan dengan tahun sebelumnya. Data ini menegaskan bahwa meskipun mayoritas korban adalah perempuan dan anak-anak, laki-laki juga mulai terdampak oleh keganasan manipulasi digital ini.
Isu utama yang berkembang di tengah masyarakat adalah masih minimnya rasa aman di ruang digital. Korban sering kali terjebak dalam budaya victim blaming, dengan narasi publik justru menyalahkan korban dengan imbauan untuk tidak mengunggah foto pribadi alih-alih mengecam pelaku.
Aktivis menekankan perlunya regulasi yang benar-benar berpihak pada korban dan perspektif gender dalam pengembangan teknologi. Kurangnya keterlibatan perempuan dalam merancang algoritma AI ditengarai menjadi penyebab mengapa sistem keamanan AI sering kali gagal mendeteksi potensi kekerasan terhadap perempuan.
Pada akhirnya, kasus pemblokiran Grok ini menjadi pengingat keras bagi dunia internasional bahwa tanpa regulasi, etika, dan penegakan hukum yang kuat, kecerdasan buatan berisiko menjadi senjata baru dalam melanggengkan kekerasan di era digital.
Cek Berita dan Artikel yang lain di
Google News
