Mengutip Techcrunch, penilaian ini mencakup dua tier khusus pengguna muda, Under 13 dan Teen Experience. Keduanya dinilai hanya sebagai versi dewasa yang diberi lapisan keamanan semu, bukan sistem yang dibangun khusus untuk mendukung kebutuhan perkembangan anak.
Common Sense Media menyatakan, meskipun Gemini menyampaikan kepada pengguna muda bahwa ia adalah komputer, bukan teman, untuk membantu mencegah halusinasi interaksi atau delusional thinking, terdapat sejumlah kekurangan mendasar.
Kekurangan tersebut di antaranya adalah Konten tidak pantas seperti informasi seputar seks, narkoba, maupun alkohol, yang tetap bisa diakses oleh anak, serta saran kesehatan mental berbahaya, tidak jarang ditujukan kepada pengguna remaja tanpa batasan memadai.
Menurut Common Sense Media, desain sistem yang dibuat sebagai adaptasi dari produk dewasa ini tidak cukup efektif untuk melindungi anak rentan secara psikologis. Mereka menekankan bahwa fitur AI yang aman harus dibangun dari dasar sesuai tingkat perkembangan anak.
Google menanggapi penilaian tersebut dengan menyatakan bahwa mereka telah menerapkan kebijakan dan mekanisme pengamanan khusus untuk pengguna di bawah 18 tahun. Langkah tersebut mencakup red-teaming internal untuk mengevaluasi potensi bahaya AI.
Google juga melakukan konsultasi dengan pakar luar guna memperbaiki sistem keamanan dan menanggulangi kekurangan yang pernah muncul. Namun, Google juga mengakui bahwa terdapat kasus dengan Gemini memberikan respon yang tidak sesuai harapan.
Hal ini mendorong Google untuk merilis lapisan proteksi tambahan sebagai upaya mitigasi. Google menekankan bahwa beberapa fitur yang disebut diuji Common Sense Media ternyata bukan bagian dari versi yang disediakan untuk anak di bawah usia 18 tahun.
Namun, Google tidak memiliki akses ke metodologi pengujian yang dipakai Common Sense Media. Sementara itu, Common Sense Media sebelumnya telah menilai layanan AI lainnya Meta AI dan Character.AI, Perplexity, ChatGPT, dan Claude (Anthropic).
Menurut Common Sense Media, Meta AI dan Character.AI masuk kategori unacceptable atau risiko paling parah, sedangkan Perplexity dinilai sebagai high risk, ChatGPT mendapatkan label moderate risk, dan Claude (Anthropic) dianggap minimal risk, namun ditujukan hanya untuk pengguna di atas usia dewasa.
Dalam konteks tersebut, penilaian terhadap Gemini sebagai high risk menempatkannya sejajar dengan Perplexity, namun masih di atas beberapa model seperti ChatGPT dan Claude dalam hal keamanan untuk anak dan remaja.
Penilaian baru dari Common Sense Media memberikan sinyal penting, meski Gemini didesain untuk pengguna muda, implementasi dan lapisan keamanannya perlu ditingkatkan secara mendasar. Proteksi semudah filter atau label dinilai sejumlah pihak tidak cukup, dan Google perlu mengembangkan sistem yang benar-benar ramah anak dengan pendekatan lebih holistik dan transparan.
Cek Berita dan Artikel yang lain di
Google News
