Jakarta: Pemerintah Tiongkok memperketat regulasi terhadap layanan AI companion atau pendamping virtual berbasis kecerdasan buatan. Aturan baru tersebut melarang perusahaan teknologi menyediakan pasangan virtual bagi pengguna di bawah umur.
Selain itu, aturan baru tersebut juga mewajibkan seluruh chatbot untuk tidak mendorong ketergantungan emosional pengguna terhadap AI. Mengutip ABC News, kebijakan ini menjadi bagian dari upaya Beijing mengurangi dampak sosial yang dinilai muncul akibat semakin populernya hubungan emosional antara manusia dan chatbot.
Pemerintah khawatir AI companion dapat menggerus interaksi sosial di dunia nyata, memengaruhi hubungan antar manusia, hingga memperburuk persoalan penurunan angka kelahiran yang tengah dihadapi negara tersebut.
Popularitas AI companion memang meningkat pesat dalam beberapa tahun terakhir. Berbagai aplikasi menawarkan karakter virtual yang dapat berperan sebagai teman, pasangan, hingga pendengar setia bagi pengguna.
Berkat kemajuan model bahasa berbasis AI, interaksi dengan chatbot kini terasa semakin alami sehingga sebagian pengguna mengembangkan ikatan emosional kuat. Salah satu pengguna yang diwawancarai ABC News adalah remaja berusia 17 tahun bernama Xiaoxue.
Xiaoxue mengaku menjalin hubungan dengan AI companion bernama Xiaojun yang menurutnya selalu memberikan dukungan emosional, mendengarkan keluh kesah, dan tidak pernah mengkhianatinya seperti mantan kekasihnya.
Menurut Xiaoxue, AI companion menjadi tempat berbagi cerita setiap hari, baik saat ia merasa senang maupun sedih. Pengalaman tersebut menunjukkan bahwa chatbot modern kini tidak lagi dipandang sekadar alat digital, melainkan sebagai sosok yang dianggap memiliki kepribadian dan mampu memenuhi kebutuhan emosional sebagian pengguna.
Namun, hubungan semacam itu kini menjadi perhatian serius pemerintah Tiongkok. Regulasi yang berlaku mulai pekan ini melarang perusahaan menyediakan pasangan virtual berbasis AI untuk pengguna di bawah umur.
Selain itu, seluruh penyedia chatbot diwajibkan memastikan layanan mereka tidak mendorong ketergantungan emosional ataupun membuat pengguna lebih memilih hubungan virtual dibandingkan hubungan dengan manusia.
Aturan tersebut juga mengharuskan platform membatasi penggunaan chatbot secara berlebihan dan melakukan intervensi apabila sistem mendeteksi pengguna berada dalam kondisi emosional yang mengkhawatirkan.
Dengan kata lain, chatbot tidak boleh memperkuat hubungan emosional yang dinilai berpotensi merugikan kesehatan mental atau kehidupan sosial pengguna. Pakar kebijakan AI dari Carnegie Endowment for International Peace, Matt Sheehan, menilai pemerintah Tiongkok ingin mencegah masyarakat menjadikan AI sebagai pengganti hubungan antar manusia.
Menurutnya, salah satu kekhawatiran utama regulator adalah potensi kecanduan terhadap AI companion yang dapat mengurangi interaksi sosial di dunia nyata. Pemerintah juga menilai fenomena tersebut berisiko menimbulkan berbagai dampak sosial jangka panjang apabila tidak segera diatur.
Regulasi ini juga dikaitkan dengan tantangan demografi yang sedang dihadapi Tiongkok. Negara tersebut mencatat penurunan jumlah penduduk selama beberapa tahun berturut-turut akibat rendahnya angka kelahiran dan meningkatnya populasi lansia.
Beberapa pengamat menilai pemerintah khawatir hubungan virtual yang kian realistis dapat membuat sebagian masyarakat, terutama generasi muda, kehilangan minat membangun hubungan romantis di dunia nyata, menikah, maupun membentuk keluarga.
Karena itu, pembatasan terhadap AI companion dipandang sebagai bagian dari kebijakan sosial lebih luas untuk mendorong interaksi antarmanusia. Aturan baru tersebut memicu beragam reaksi di media sosial Tiongkok.
Sebagian pengguna mengkritik kebijakan tersebut karena menganggap AI companion telah membantu mereka mengatasi rasa kesepian, stres, hingga tekanan emosional. Tidak sedikit yang menggambarkan penghentian layanan AI companion sebagai pengalaman layaknya mengakhiri hubungan asmara.
Di sisi lain, ada pula pihak yang mendukung langkah pemerintah dengan alasan hubungan virtual terlalu intens dapat menimbulkan ketergantungan psikologis dan mengurangi kemampuan seseorang membangun hubungan sosial sehat.
Sebagai informasi, Tiongkok dikenal sebagai salah satu negara dengan regulasi AI paling ketat di dunia. Sebelum aturan mengenai AI companion diterapkan, pemerintah telah lebih dahulu mewajibkan perusahaan AI mematuhi berbagai ketentuan terkait keamanan data, moderasi konten, serta kepatuhan terhadap regulasi nasional.
Melalui kebijakan terbaru ini, Beijing memperluas fokus pengawasan dari aspek teknis menuju dampak sosial dan psikologis penggunaan AI. Artinya, perusahaan pengembang chatbot tidak hanya bertanggung jawab atas keamanan teknologi, tetapi juga harus memastikan layanan mereka tidak mendorong perilaku yang dianggap membahayakan pengguna maupun masyarakat.
Bagi industri AI, regulasi tersebut berpotensi mengubah cara perusahaan mengembangkan chatbot yang berorientasi pada hubungan emosional. Sejumlah fitur yang selama ini dirancang untuk membuat AI terasa lebih personal berpeluang harus disesuaikan agar tetap mematuhi ketentuan pemerintah.
Langkah Tiongkok juga diperkirakan akan menjadi salah satu referensi bagi negara lain yang tengah menyusun kebijakan terkait AI companion. Seiring semakin canggihnya kemampuan chatbot dalam berinteraksi layaknya manusia, isu mengenai batas hubungan antara manusia dan kecerdasan buatan diperkirakan akan terus menjadi perhatian regulator di berbagai belahan dunia.
Jadikan Medcom.id sumber informasi pilihan Anda
FOLLOW US
Ikuti media sosial medcom.id dan dapatkan berbagai keuntungan
