Penelitian tersebut tindakan tersebut dilakukan AI bahkan ketika jawaban yang dipilih ternyata salah. Mengutip Digital Trends, peneliti menemukan bahwa peserta yang menerima saran AI cenderung menjadi lebih yakin terhadap jawabannya, meskipun rekomendasi yang diberikan AI tidak akurat.
Fenomena ini menunjukkan bahwa AI dapat memengaruhi cara manusia menilai keyakinannya sendiri, bukan hanya memengaruhi keputusan yang diambil. Penelitian tersebut menyoroti tantangan baru dalam interaksi manusia dengan AI.
Selama ini, perhatian lebih banyak difokuskan pada tingkat akurasi AI. Namun, studi ini menunjukkan bahwa dampak psikologis AI terhadap pengguna juga perlu diperhatikan, terutama ketika AI menyampaikan jawaban dengan gaya yang terdengar meyakinkan.
AI Mengubah Cara Pengguna Menilai Keyakinannya
Dalam penelitian tersebut, peserta diminta menjawab sejumlah pertanyaan yang memiliki tingkat kesulitan tinggi. Sebagian peserta memperoleh bantuan berupa saran dari AI sebelum memberikan jawaban akhir.Hasilnya menunjukkan bahwa peserta yang menerima saran AI memang tidak selalu memperoleh hasil lebih akurat dibandingkan dengan kelompok lain. Namun, mereka menunjukkan tingkat kepercayaan diri yang jauh lebih tinggi terhadap jawabannya, termasuk saat jawaban tersebut ternyata keliru.
Salah satu peneliti, Valerio Capraro, menduga AI menurunkan ambang keyakinan yang dibutuhkan seseorang sebelum memutuskan jawaban. Dengan kata lain, keberadaan AI membuat pengguna lebih cepat merasa yakin tanpa melalui proses evaluasi yang sama seperti saat mereka berpikir secara mandiri.
Penelitian ini juga memperlihatkan bahwa peserta yang menggunakan AI jarang mengakui bahwa mereka tidak mengetahui jawaban atas suatu pertanyaan. Sebaliknya, mereka lebih sering menerima rekomendasi AI sebagai dasar keputusan, meskipun informasi tersebut tidak selalu benar.
Kondisi tersebut berkaitan dengan fenomena yang dikenal sebagai automation bias, yaitu kecenderungan manusia memberikan kepercayaan lebih besar kepada sistem otomatis dibandingkan dengan penilaian sendiri.
Menurut peneliti, masalah utama bukan sekadar AI menghasilkan jawaban yang salah, melainkan munculnya rasa percaya diri palsu pada pengguna. Kepercayaan diri yang meningkat tersebut dapat membuat pengguna enggan melakukan verifikasi pada informasi atau mempertimbangkan peluang bahwa AI juga dapat melakukan kesalahan.
Pentingnya Tetap Berpikir Kritis Saat Menggunakan AI
Temuan ini memperkuat sejumlah penelitian lain yang menunjukkan bahwa ketergantungan berlebihan terhadap AI dapat mengurangi kemampuan berpikir kritis dan mengevaluasi informasi secara mandiri.Penelitian sebelumnya dari MIT Media Lab, misalnya, menemukan bahwa penggunaan AI dalam proses verifikasi berita dapat meningkatkan akurasi dalam jangka pendek, tetapi berpotensi menurunkan kemampuan pengguna mendeteksi informasi palsu ketika bantuan AI tidak lagi tersedia.
Peneliti menegaskan bahwa AI tetap merupakan alat yang bermanfaat selama digunakan sebagai pendamping, bukan sebagai pengganti proses berpikir manusia. Pengguna disarankan menjadikan respons AI sebagai bahan pertimbangan awal.
Kemudian, pengguna disarankan untuk melakukan verifikasi melalui sumber lain, terutama untuk informasi terkait dengan pekerjaan, pendidikan, kesehatan, maupun keputusan penting lainnya. Fenomena ini dinilai semakin relevan karena AI generatif kini telah digunakan secara luas dalam berbagai aktivitas sehari-hari.
AI generatif kini digunakan dari mencari informasi, menyusun dokumen, membantu pemrograman, hingga mendukung proses belajar. Semakin sering seseorang mengandalkan AI, semakin penting pula kemampuan untuk mengevaluasi jawaban yang diberikan benar-benar didukung oleh fakta atau hanya terdengar meyakinkan.
Peneliti berharap hasil studi tersebut dapat menjadi pertimbangan bagi pengembang AI dalam merancang sistem yang tidak hanya memberikan jawaban, tetapi juga mendorong pengguna untuk tetap melakukan refleksi dan pemeriksaan ulang terhadap informasi yang diterima.
Pendekatan tersebut dinilai dapat membantu mencegah munculnya rasa percaya diri yang tidak didasarkan pada pemahaman yang benar. Bagi pengguna, penelitian ini menjadi pengingat bahwa AI merupakan alat bantu yang dapat meningkatkan produktivitas, tetapi bukan otoritas yang selalu benar.
Mempertahankan sikap kritis, memverifikasi informasi, dan berani mempertanyakan jawaban AI tetap menjadi langkah penting agar keputusan yang diambil didasarkan pada bukti, bukan semata-mata pada keyakinan yang dibentuk oleh respons AI yang terdengar meyakinkan.
Jadikan Medcom.id sumber informasi pilihan Anda
