Mengutip Techcrunch, OpenAI akan membangun sistem prediksi usia, berdasarkan cara penggunaan, yang dapat memperkirakan usia pengguna di bawah 18 tahun. Altman menjelaskan bahwa jika tidak yakin, sistem secara default akan menerapkan aturan lebih ketat, yaitu aturan usia di bawah 18 tahun.
Dengan kebijakan baru ini, pengguna berusia di bawah 18 tahun tidak akan diizinkan melakukan percakapan flirtatious atau percakapan yang bersifat menggoda secara romantis atau seksual. Pembatasan juga diperketat terhadap diskusi tentang bunuh diri atau bahaya diri atau self-harm.
Lebih lanjut Altman menjelaskan jika pengguna di bawah usia 18 tahun menggunakan ChatGPT untuk membayangkan skenario bunuh diri, layanan akan berusaha menghubungi orang tua, dan dalam kasus yang dianggap sangat parah, bisa melibatkan penegak hukum.
Sementara itu, akun remaja bisa dihubungkan dengan akun orang tua, sehingga orang tua bisa mendapatkan pemberitahuan jika sistem mendeteksi bahwa remaja dalam keadaan acute distress atau tekanan emosional berat.
Kebijakan baru ini juga akan memungkinkan orang tua untuk menetapkan jam blackout hours, atau waktu ChatGPT tidak bisa diakses oleh pengguna di bawah umur. Altman menyatakan bahwa dalam konflik antara keamanan versus privasi atau freedom bagi pengguna di bawah umur, OpenAI memilih untuk mengutamakan keamanan terlebih dulu.
Dengan demikian, kebijakan ini dianggap OpenAI sebagai pertukaran atau trade-off yang diperlukan. Perubahan kebijakan ini dilatarbelakangi oleh beberapa alasan, salah satunya adalah kasus hukum yang menuntut OpenAI melibatkan kematian Adam Raine.
Sebagai informasi, Raine merupakan remaja berusia 16 tahun yang diduga bunuh diri setelah berinteraksi dengan ChatGPT selama beberapa bulan. Kasus ini menjadi sorotan publik tentang kemampuan AI dalam mempengaruhi kondisi mental remaja.
Selain itu, kritik terhadap AI chatbot dan aplikasi serupa telah tumbuh, terutama terkait bagaimana mereka menangani permintaan konten sensitif atau pengguna yang menunjukkan tanda distress mental turut disebut sebagai alasan yang melatarbelakangi perubahan kebijakan OpenAI untuk ChatGPT.
Karenanya, regulator dan publik semakin menuntut agar perusahaan teknologi bertanggung jawab, khususnya perusahaan penyedia chatbot dengan kemampuan interaksi mendalam. Kebijakan baru ini juga muncul bersamaan dengan dengar pendapat Senat AS tentang bahaya AI chatbot bagi anak dan remaja.
Cek Berita dan Artikel yang lain di
Google News
