Pemangkasan pegawai ini sebagai bagian dari dorongan global untuk lebih mengandalkan kecerdasan buatan (AI). Kendati langkah ini diklaim bertujuan untuk meningkatkan efisiensi, keputusan tersebut memicu kekhawatiran dari serikat pekerja dan pakar keamanan siber terkait kemampuan AI dalam menangani konten rumit dan bernuansa.
Mengutip laporan The Guardian, TikTok berencana membubarkan tim moderasi di Berlin, Jerman, dan mengganti pekerjaan mereka dengan sistem AI serta staf alih daya. Keputusan serupa telah diterapkan TikTok di Belanda dan Malaysia, dengan ratusan peran moderasi manusia digantikan oleh proses berbasis AI.
TikTok berpendapat bahwa teknologi AI memungkinkan mereka untuk secara proaktif dan lebih cepat menghapus konten pelanggar pedoman komunitas sebelum dilihat oleh pengguna. Saat ini, lebih dari 85% konten pelanggar pedoman sudah diidentifikasi oleh sistem otomatis.
Selain itu, sekitar 99% dari konten tersebut dihapus secara proaktif tanpa laporan pengguna. Kendati TikTok membanggakan efisiensi AI, kritik dan kekhawatiran tetap bermunculan. Serikat pekerja dan pakar keamanan berpendapat bahwa AI mungkin tidak mampu memahami konten bernuansa, seperti misinformasi, perundungan, atau konteks budaya spesifik.
Tidak hanya itu, sejumlah pihak mengkhawatirkan ketergantungan berlebihan pada otomasi dapat menciptakan celah dalam penegakan kebijakan, meningkatkan risiko penyebaran konten berbahaya di platform tersebut.
Namun, TikTok juga menegaskan bahwa AI digunakan untuk mendukung, bukan sepenuhnya menggantikan, peran manusia. Perusahaan mengklaim telah berinvestasi sebesar USD2 miliar (Rp32,4 triliun) secara global setiap tahun untuk keamanan dan kepercayaan.
Selain itu, TikTok menyatakan bahwa penggunaan AI juga membantu mengurangi paparan moderator manusia terhadap konten meresahkan. Berkat AI, TikTok mengklaim jumlah konten grafis yang perlu ditinjau oleh tim manusia telah menurun hingga 60% dalam satu tahun terakhir.
Tim moderator manusia, berjumlah sekitar 40.000 orang di seluruh dunia, dilaporkan kerap mengalami trauma psikologis karena harus meninjau ribuan video mengerikan setiap harinya. Selain untuk moderasi, TikTok juga mengembangkan penggunaan AI untuk fitur lainnya.
TikTok menggunakan large language models (LLM) untuk menegakkan kebijakan di bagian komentar. Sebagai informasi, TikTok juga menjadi platform berbagi video pertama yang mengadopsi standar teknis terbuka dari Coalition for Content Provenance and Authenticity (C2PA).
Standar ini secara otomatis memberi label pada konten hasil AI dari platform lain yang kompatibel dengan C2PA. Secara keseluruhan, strategi TikTok ini menunjukkan ambisi besar untuk mengintegrasikan AI secara mendalam ke dalam operasionalnya.
Langkah ini dilaporkan tidak hanya bertujuan untuk meningkatkan efisiensi dan mengurangi biaya, tetapi juga untuk menciptakan ekosistem lebih aman bagi pengguna, sekaligus mengurangi beban mental pada moderator manusia.
Namun, sejumlah pihak menilai langkah ini tetap memiliki tantangan, terutama dalam menyeimbangkan kecepatan dan akurasi AI dengan pemahaman kontekstual yang hanya dapat diberikan oleh manusia.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
