Menurutnya, sebelum sebuah sistem AI diimplementasikan secara luas, terlebih dahulu perlu melewati tahapan pengujian dalam lingkungan terbatas dan terkontrol sebelum terintegrasi ke sistem yang lebih besar.
“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” tegasnya.
Pandangan ini disampaikan Wamenkomdigi kepada perwakilan Kelompok Kerja Komunikasi Risiko dan Pelibatan Masyarakat (Risk Communication and Community Engagement/Pokja RCCE+) di Kantor Pusat Kementerian Komdigi, Jakarta.
Menurut Nezar Patria, dalam proses sandboxing para pemangku kepentingan bisa menilai berbagai aspek teknis dan etis, termasuk kesiapan operasional dan potensi dampaknya terhadap masyarakat.
Wamenkomdigi mencontohkan proses yang dijalankan di Tiongkok dan bisa mengungguli negara-negara maju lain karena melakukan sandboxing terlebih dahulu di level domestik.
“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxingnya sudah berlangsung di negara mereka lebih dulu,” tuturnya.
Nezar Patria mengingatkan tantangan lain dalam penerapan model Agentic AI, yang mampu membuat keputusan sendiri.
Menurutnya, risiko adalah hal yang tidak bisa dihindari dalam pengembangan teknologi mutakhir. Khususnya dalam konteks kesehatan, risiko AI bukan hanya teknis, tetapi juga sosial dan etis.
"Kalau masih butuh campur tangan manusia, kita harus punya kebijakan soal human in the loop. AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” jelasnya.
Oleh karena itu, Nezar Patria menekankan pengembangan AI kesehatan yang berbasis pada data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri.
“Dengan pendekatan ini, Indonesia bisa membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila,” tandasnya.
Cek Berita dan Artikel yang lain di
Google News
