Jakarta: Meta memutuskan untuk menonaktifkan fitur kontroversial pada layanan AI Muse Image yang sebelumnya memungkinkan pengguna membuat gambar berbasis kecerdasan buatan (AI) menggunakan foto dari akun Instagram publik.
Mengutip The Verge, keputusan tersebut diambil hanya beberapa hari setelah fitur diperkenalkan, menyusul gelombang kritik terkait privasi, persetujuan pengguna, hingga potensi penyalahgunaan untuk membuat konten deepfake.
Fitur tersebut dilaporkan memungkinkan pengguna menghasilkan gambar AI dengan memasukkan nama akun Instagram publik ke dalam prompt. Sistem kemudian memanfaatkan foto yang tersedia di akun tersebut sebagai referensi visual untuk membuat gambar baru.
Pendekatan ini memicu kekhawatiran karena pemilik akun tidak diminta memberikan persetujuan secara eksplisit sebelum foto mereka digunakan sebagai bahan pembuatan gambar AI. Saat pertama kali diluncurkan, Meta menerapkan sistem opt-out, sehingga pengguna akun Instagram publik secara otomatis diikutsertakan dalam fitur tersebut.
Pengguna yang tidak ingin kontennya digunakan harus menonaktifkan izin melalui menu pengaturan. Skema tersebut dinilai menuai kritik karena dianggap membebankan tanggung jawab kepada pengguna, bukan meminta persetujuan terlebih dahulu melalui mekanisme opt-in.
Kontroversi semakin menguat setelah sejumlah organisasi perlindungan hak digital dan kelompok industri hiburan menyampaikan keberatan. Organisasi tersebut menilai fitur ini berpotensi membuka jalan bagi penyalahgunaan identitas digital, termasuk pembuatan gambar palsu yang menyerupai seseorang tanpa izin.
Risiko tersebut dinilai kian serius di tengah berkembangnya teknologi generative AI yang mampu menghasilkan gambar dengan tingkat realisme tinggi. Salah satu kekhawatiran utama adalah potensi penyalahgunaan teknologi untuk membuat deepfake, yaitu gambar atau video hasil rekayasa AI yang menyerupai individu nyata.
Deepfake telah menjadi perhatian global karena dapat digunakan untuk penipuan, pencemaran nama baik, penyebaran disinformasi, hingga eksploitasi seksual berbasis gambar digital tanpa persetujuan korban.
Organisasi seperti National Center on Sexual Exploitation serta Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) termasuk pihak yang secara terbuka mengkritik implementasi fitur tersebut.
Sejumlah organisasi ini menilai Meta belum menyediakan perlindungan yang memadai terhadap risiko penyalahgunaan identitas maupun penciptaan replika digital seseorang tanpa izin. Menanggapi kritik yang terus berkembang, Meta akhirnya memutuskan menghentikan fungsi yang memungkinkan pengguna menghasilkan gambar AI menggunakan akun Instagram publik.
Meta menyatakan telah mendengarkan masukan dari berbagai pihak dan mengakui bahwa implementasi awal fitur AI Muse Image belum memenuhi ekspektasi pengguna terkait kontrol atas data pribadi.
Meski fitur tersebut dinonaktifkan, Meta tidak menghentikan pengembangan Muse Image secara keseluruhan. Meta masih mempertahankan berbagai kemampuan lain pada model AI tersebut, termasuk fitur penyuntingan gambar dan pembuatan visual berbasis prompt yang tidak melibatkan penggunaan foto dari akun Instagram publik secara otomatis.
Kasus ini kembali menyoroti tantangan besar yang dihadapi perusahaan teknologi dalam mengembangkan layanan AI generatif. Di satu sisi, teknologi tersebut menawarkan cara baru bagi pengguna untuk berkreasi dengan gambar digital.
Namun di sisi lain, penggunaan data pribadi tanpa persetujuan yang jelas menimbulkan pertanyaan mengenai batas etika, perlindungan privasi, dan hak atas identitas digital. Perdebatan mengenai model opt-in dan opt-out juga menjadi sorotan utama.
Banyak pemerhati privasi menilai bahwa teknologi AI yang memanfaatkan data pengguna seharusnya hanya dapat digunakan setelah memperoleh persetujuan eksplisit dari pemilik konten. Pendekatan ini dinilai lebih menghormati hak individu dibandingkan mengaktifkan fitur secara otomatis lalu memberikan pilihan untuk keluar dari sistem.
Insiden Muse Image juga menunjukkan meningkatnya perhatian publik terhadap transparansi dalam pengembangan AI. Seiring kemampuan model AI menghasilkan gambar yang kian realistis, perusahaan teknologi menghadapi tuntutan untuk menyediakan mekanisme perlindungan lebih kuat terhadap penyalahgunaan identitas, pemalsuan visual, dan penggunaan data pribadi tanpa izin.
Bagi Meta, keputusan menonaktifkan fitur tersebut menjadi langkah cepat untuk meredam kontroversi yang berkembang. Namun, kasus ini diperkirakan akan menjadi salah satu contoh penting dalam diskusi global mengenai tata kelola AI, khususnya terkait persetujuan pengguna, perlindungan hak cipta, serta keamanan identitas digital di era kecerdasan buatan.
Di tengah persaingan pengembangan AI generatif yang semakin ketat, perusahaan teknologi diperkirakan akan menghadapi tekanan lebih besar untuk menyeimbangkan inovasi dengan perlindungan hak pengguna.
Ke depan, mekanisme persetujuan lebih transparan serta pengamanan terhadap potensi penyalahgunaan AI berpeluang akan menjadi salah satu faktor utama yang menentukan tingkat kepercayaan masyarakat terhadap teknologi generatif.
Jadikan Medcom.id sumber informasi pilihan Anda
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
