Jakarta: TikTok mulai menguji fitur baru berbasis kecerdasan buatan (AI) yang dirancang untuk membantu kreator mendeteksi penggunaan wajah mereka dalam konten AI tanpa izin. Langkah ini dilakukan di tengah meningkatnya penyebaran konten deepfake.
Langkah ini juga dilakukan hanya beberapa waktu setelah YouTube memperluas teknologi serupa kepada lebih banyak pengguna dewasa. Mengutip The Verge, fitur yang masih berada dalam tahap uji coba tersebut bersifat opt-in, sehingga kreator harus mendaftarkan diri secara sukarela untuk menggunakannya.
Pada tahap awal, TikTok hanya menghadirkannya kepada sekelompok kreator di Amerika Serikat sebelum berpotensi diperluas ke lebih banyak pengguna. Melalui sistem ini, kreator dapat mengetahui apabila wajah mereka digunakan dalam konten yang dihasilkan AI tanpa persetujuan.
Jika sistem menemukan dugaan penyalahgunaan, kreator dapat meninjau konten tersebut dan melaporkannya kepada TikTok untuk diproses lebih lanjut sesuai kebijakan platform. Untuk mengaktifkan fitur tersebut, pengguna diwajibkan menjalani proses verifikasi identitas.
TikTok meminta kreator melakukan swafoto atau selfie serta memverifikasi identitas menggunakan dokumen resmi melalui layanan pihak ketiga, Jumio. Proses ini bertujuan memastikan bahwa sistem benar-benar mengenali identitas kreator yang mendaftar sehingga dapat membedakan penggunaan wajah sah dan tidak sah.
Selain itu, TikTok menyatakan tidak menyimpan dokumen identitas yang diunggah selama proses verifikasi. Data wajah yang dikumpulkan juga disebut hanya digunakan untuk mencocokkan kemiripan wajah serta mengidentifikasi kemungkinan penyalahgunaan identitas digital dalam konten AI.
Kehadiran fitur ini menunjukkan semakin besarnya perhatian platform media sosial terhadap penyalahgunaan teknologi AI generatif. Dalam beberapa tahun terakhir, kemampuan AI menghasilkan gambar dan video sangat realistis membuat kasus pemalsuan wajah maupun identitas digital kian sulit dikenali secara manual.
Akibatnya, kreator, figur publik, maupun pengguna biasa menghadapi risiko wajah mereka digunakan untuk membuat konten palsu, penipuan, atau informasi menyesatkan. Sebagai informasi, TikTok bukan satu-satunya platform yang mengambil langkah tersebut.
Sebelumnya, YouTube telah memperluas teknologi likeness detection kepada seluruh kreator yang memenuhi syarat dan berusia minimal 18 tahun. Teknologi tersebut bekerja dengan cara mendeteksi video yang menggunakan wajah seseorang secara sintetis atau dimanipulasi menggunakan AI.
Kemudian memberi kesempatan kepada pemilik identitas untuk meminta penghapusan apabila konten tersebut melanggar pedoman privasi. Sistem YouTube sendiri dikembangkan dengan pendekatan yang mirip dengan Content ID.
Jika Content ID digunakan untuk mengenali materi berhak cipta, maka teknologi likeness detection difokuskan pada identifikasi wajah hasil simulasi AI. Pengguna yang memenuhi syarat juga harus menjalani proses verifikasi identitas sebelum dapat mengaktifkan fitur tersebut.
Masuknya TikTok ke ranah perlindungan identitas berbasis AI menandai meningkatnya persaingan antar platform dalam menghadapi tantangan era AI generatif. Selain mengembangkan alat kreatif berbasis AI, perusahaan teknologi kini juga mulai membangun mekanisme untuk melindungi identitas digital penggunanya dari penyalahgunaan teknologi yang sama.
Meski demikian, fitur TikTok masih berada pada tahap pengujian terbatas. TikTok belum mengumumkan jadwal peluncuran lebih luas maupun negara lain yang akan memperoleh akses. Hasil uji coba tersebut diperkirakan akan menjadi dasar bagi TikTok untuk mengevaluasi efektivitas sistem sebelum tersedia bagi lebih banyak kreator.
Dengan semakin berkembangnya teknologi AI generatif, alat pendeteksi kemiripan wajah diperkirakan akan menjadi salah satu fitur penting bagi platform media sosial. Keberadaan teknologi tersebut diharapkan membantu kreator menjaga identitas digital mereka sekaligus mengurangi penyebaran konten deepfake yang dibuat tanpa izin.
Jadikan Medcom.id sumber informasi pilihan Anda
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
