Mengutip GSM Arena, langkah ini diambil sebagai respons terhadap meningkatnya penyebaran konten AI yang memanipulasi wajah dan suara publik figur. Sebagai informasi, teknologi deepfake memungkinkan pembuatan video atau audio palsu tampak realistis, sehingga berpotensi menyesatkan publik dan merugikan individu yang menjadi target.
Melalui sistem likeness detection, YouTube dapat memindai konten yang diunggah untuk menemukan video yang diduga menggunakan kemiripan wajah atau identitas seseorang secara tidak sah.
Teknologi ini sebelumnya telah diuji pada kreator, jurnalis, dan politisi, dan kini diperluas untuk kalangan selebriti serta industri hiburan. Fitur ini memungkinkan selebriti atau perwakilannya untuk meninjau konten yang terdeteksi dan mengajukan permintaan penghapusan jika dianggap melanggar privasi.
Proses ini dilakukan melalui mekanisme kebijakan privasi YouTube, sehingga tidak semua permintaan penghapusan akan otomatis disetujui. Untuk menggunakan sistem ini, individu yang ingin dilindungi harus melalui proses verifikasi identitas, termasuk mengunggah dokumen resmi serta video selfie.
Langkah ini bertujuan memastikan bahwa hanya pihak yang sah yang dapat mengakses dan mengelola permintaan terkait penggunaan identitas digital mereka. YouTube juga mengembangkan teknologi ini dengan pendekatan serupa sistem Content ID yang sebelumnya digunakan untuk melindungi hak cipta.
Namun, dalam konteks ini, fokusnya adalah pada perlindungan identitas dan kemiripan wajah, bukan konten audiovisual semata. Selain aspek perlindungan, YouTube juga membuka peluang penggunaan teknologi ini untuk peluang monetisasi di masa depan, dengan kreator atau selebriti dapat mengontrol serta memonetisasi penggunaan AI atas kemiripan secara legal.
Pengembangan teknologi ini mencerminkan meningkatnya perhatian platform digital terhadap isu etika dan keamanan dalam era AI generatif. Seiring semakin realistik konten deepfake, kebutuhan akan sistem deteksi dan pengendalian menjadi semakin penting untuk menjaga kepercayaan pengguna dan melindungi identitas digital.
Cek Berita dan Artikel yang lain di
Google News
