Langkah ini dilakukan sebagai respons terhadap kekhawatiran serius mengenai keselamatan pasien dan keandalan alat AI yang semakin populer dalam memberi jawaban cepat terhadap pertanyaan kesehatan.
Ringkasan AI Google dikenal sebagai AI Overviews, yaitu rangkuman otomatis yang muncul di bagian atas hasil pencarian. Fitur ini dirancang untuk memberi jawaban ringkas dan cepat dengan menggabungkan informasi dari berbagai sumber yang dianggap relevan.
Namun, dalam konteks pertanyaan medis, investigasi menemukan bahwa beberapa AI Overviews justru menawarkan informasi tidak tepat, menyesatkan, atau kekurangan konteks penting, mampu mendorong pengguna membuat kesimpulan keliru tentang kondisi kesehatannya.
Investigasi oleh The Guardian mengungkap bahwa AI Overviews Google memberikan angka dan saran tentang rentang normal tes darah fungsi hati tanpa mempertimbangkan faktor penting seperti usia, jenis kelamin, dan etnisitas pasien.
Ketidaklengkapan ini dinilai berisiko karena dapat membuat seseorang dengan penyakit serius salah mengira bahwa hasil tesnya masih dalam kisaran yang aman, sehingga menunda pemeriksaan lanjutan atau perawatan medis yang diperlukan.
Dalam contoh lain, AI Overviews sempat memberikan saran bertentangan dengan panduan medis, seperti merekomendasikan pasien kanker pankreas untuk menghindari makanan berlemak, rekomendasi yang bisa berpotensi membahayakan dalam konteks toleransi nutrisi pasien selama pengobatan.
Kasus ini mempertegas betapa informasi medis salah tidak hanya membingungkan tetapi dapat berdampak langsung pada keputusan kesehatan kritis. Ahli kesehatan menekankan bahwa konteks sangat penting dalam penafsiran hasil tes medis.
Nilai hasil tes seperti fungsi hati tidak bersifat universal, nilai normal dapat sangat bervariasi berdasarkan karakteristik individu. Simplifikasi yang dilakukan oleh AI Overviews tanpa menyampaikan batasan tersebut dinilai sangat berbahaya.
Hal ini membuat banyak pakar kesehatan dan organisasi pasien mengkritik Google untuk segera meninjau dan memperbaiki pendekatan teknologi mereka. Menanggapi temuan ini, Google menghapus AI Overviews untuk beberapa kata kunci spesifik, termasuk kueri berkaitan dengan rentang normal tes darah dan tes fungsi hati.
Google menyatakan bahwa mereka akan terus melakukan perbaikan jika sistem AI menampilkan informasi yang kehilangan konteks penting atau berpotensi menyesatkan. Namun, beberapa pakar menilai langkah ini baru merupakan awal dan belum menyelesaikan masalah secara menyeluruh.
Juru bicara Google menjelaskan bahwa penghapusan dilakukan sesuai dengan kebijakan internal, dan perusahaan berusaha memperbaiki kualitas ringkasan AI berdasarkan masukan pengguna serta temuan eksternal.
Kendati demikian, tidak semua AI Overviews kontroversial dihapus, terutama untuk topik lain seperti kanker atau kesehatan mental, dan masih tetap muncul di hasil pencarian AI. Tenaga profesional medis dan organisasi kesehatan menyatakan bahwa meskipun Google telah menghapus beberapa ringkasan bermasalah, masalah fundamental tetap ada.
Ringkasan AI masih cenderung menyederhanakan kompleksitas medis secara berlebihan, mengabaikan variasi individu, dan kadang memberikan saran tanpa dukungan konteks klinis memadai. Hal ini dinilai dapat memicu rasa aman palsu yang justru berbahaya.
Sebagai contoh, British Liver Trust menyambut baik penghapusan ringkasan tertentu tetapi mengingatkan bahwa masih banyak variasi pertanyaan lain yang memicu ringkasan serupa, namun belum diatasi.
British Liver Trust menegaskan perlunya peningkatan pengawasan terhadap AI dalam domain kesehatan agar pengguna mendapatkan informasi lebih akurat dan bertanggung jawab. Pakar lain menyoroti bahwa teknologi AI memiliki keterbatasan ketika menangani topik medis, area yang sangat kompleks dan sensitif.
Pakar menyarankan bahwa solusi jangka panjang memerlukan integrasi pengawasan medis nyata dan transparansi lebih besar tentang cara kerja sistem AI dalam menyusun rangkuman kesehatan. Insiden ini menyoroti tantangan lebih besar terkait penggunaan AI dalam informasi medis.
AI seperti AI Overviews diharapkan memberi jawaban cepat dan ringkas, tetapi tidak selalu dapat menggantikan penilaian klinis profesional. Kesalahan dalam ringkasan AI menunjukkan bahwa model yang canggih tetap rentan terhadap interpretasi salah dan bias data.
Ahli menyarankan agar pengguna tetap berhati-hati ketika mencari informasi kesehatan secara online. Mereka menekankan pentingnya memverifikasi fakta medis melalui sumber terpercaya, seperti institusi kesehatan resmi atau dokter, dan menghindari ketergantungan penuh pada ringkasan otomatis yang dihasilkan AI.
Cek Berita dan Artikel yang lain di
Google News
