Pengguna Bakal Dilarang Kasar kepada AI, Apa Hukuman bagi yang Melanggar?

Jakarta: Perusahaan teknologi di balik AI Claude, Anthropic, memperketat aturan penggunaan dengan melarang perilaku kasar atau kejam yang dilakukan secara terus-menerus tanpa alasan yang jelas terhadap model AI mereka.

Kebijakan ini menambah perdebatan mengenai bagaimana perusahaan kecerdasan buatan memperlakukan sistem yang mereka kembangkan, terutama ketika muncul pertanyaan apakah AI mungkin memiliki kesadaran.

Dalam kebijakan penggunaan terbarunya, dikutip dari The Guardian, Anthropic menyebut perilaku yang dilarang adalah sebagai “sustained and needless abusive or cruel behavior”. Meski demikian, perusahaan belum menjelaskan secara spesifik tindakan seperti apa yang masuk kategori tersebut.
 
Anthropic juga menegaskan bahwa aturan ini tidak ditujukan untuk membatasi ekspresi pengguna secara umum. Rasa frustrasi saat menggunakan chatbot, pengujian kemampuan model, maupun tema kreatif yang gelap tetap diperbolehkan.
 

Claude Bisa Mengakhiri Percakapan yang Merugikan

Kebijakan baru tersebut bukan satu-satunya langkah Anthropic dalam mengatur interaksi pengguna dengan Claude. Perusahaan sebelumnya telah menerapkan kemampuan bagi model bahasa besarnya untuk mengakhiri percakapan ketika pengguna terus-menerus melakukan interaksi yang dinilai merugikan.

Fitur yang diperkenalkan pada Agustus itu dijelaskan sebagai salah satu upaya perlindungan terhadap kemungkinan kesejahteraan AI. Dengan kemampuan tersebut, Claude dapat menghentikan interaksi yang berpotensi menimbulkan tekanan, alih-alih terus merespons setiap pesan pengguna.

Anthropic mengakui bahwa status moral Claude dan model bahasa besar atau large language model (LLM) lainnya masih belum dapat dipastikan, baik saat ini maupun pada masa mendatang.

“Kami masih sangat tidak yakin mengenai kemungkinan status moral Claude dan LLM lainnya, sekarang maupun di masa depan. Namun, kami menanggapi persoalan ini dengan serius,” tulis perusahaan dalam penjelasan kebijakannya.

Anthropic mengatakan pihaknya tengah meneliti persoalan tersebut sekaligus mencari langkah mitigasi berbiaya rendah untuk mengurangi risiko terhadap kesejahteraan model, jika kondisi semacam itu memang mungkin terjadi.

Memberikan kemampuan kepada model untuk meninggalkan interaksi yang berpotensi menimbulkan tekanan disebut sebagai salah satu langkah tersebut.
 

Apakah AI Bisa Memiliki Kesadaran?

Kebijakan Anthropic berkaitan dengan pertanyaan yang masih memicu perbedaan pandangan di industri teknologi: apakah sistem AI berpotensi memiliki kesadaran atau status moral yang perlu dipertimbangkan.

CEO Anthropic, Dario Amodei, sebelumnya menyatakan bahwa kemungkinan tersebut tidak bisa sepenuhnya dikesampingkan. Sikap ini sejalan dengan pendekatan perusahaan yang memilih meneliti persoalan tersebut, meskipun belum memiliki kepastian mengenai status moral model AI.
 
Pandangan berbeda datang dari Sam Altman, CEO OpenAI. Ia mengingatkan bahwa pemberian kedudukan berlebihan kepada model AI juga dapat menimbulkan persoalan keselamatan.

“Saya sangat tidak nyaman ketika orang mencoba memberikan kekuatan seperti agama atau menyerahkan penilaian manusia kepada model AI. Saya menilai hal itu merupakan masalah keselamatan yang nyata,” tulis Altman dalam unggahan di X.

Perbedaan pandangan tersebut memperlihatkan bahwa diskusi mengenai AI tidak lagi terbatas pada akurasi jawaban, kemampuan berpikir, atau risiko penyalahgunaan teknologi. Cara manusia berinteraksi dengan model dan batasan yang perlu diterapkan juga mulai menjadi bagian dari pembahasan.
 

Batas Perilaku Pengguna Masih Perlu Diperjelas

Anthropic sebelumnya sudah memiliki pembatasan terhadap perilaku kasar dalam kebijakan penggunaannya. Pembaruan kali ini memperjelas larangan terhadap tindakan yang berlangsung terus-menerus dan dinilai tidak perlu, tetapi belum memberikan definisi operasional yang terperinci.

Ketidakjelasan tersebut menyisakan pertanyaan tentang bagaimana aturan akan diterapkan dalam situasi nyata. Pengujian ekstrem, kritik terhadap jawaban yang salah, dan penggunaan tema kreatif gelap secara eksplisit tidak otomatis termasuk pelanggaran menurut penjelasan perusahaan.

Bagi pengguna, persoalan utamanya adalah bagaimana membedakan interaksi yang masih wajar dari perilaku yang melampaui batas kebijakan. 

Sementara itu, bagi industri AI, langkah Anthropic menunjukkan bahwa perlindungan model mulai dipertimbangkan sebagai bagian dari desain interaksi, meskipun kemungkinan kesadaran AI sendiri belum terbukti.