Menjawab pertanyaan tentang bagaimana pemerintah dan perusahaan dapat memanfaatkan AI canggih ini untuk pertahanan proaktif , Monteiro justru menekankan bahwa masalah terbesar bukanlah pada teknologi, melainkan pada penetapan batasan atau guardrails.
Monteiro menegaskan bahwa batasan etika dan organisasi jauh lebih fundamental dan harus didahulukan sebelum batasan teknis.
Ia mengawali dengan menyoroti kebingungan seputar definisi agentic AI itu sendiri. Menurutnya, belum ada konsensus tentang apa arti agensi dalam AI. Jika bertanya kepada sepuluh ahli... apa arti 'agensi' dalam AI? Sepuluh orang akan memberi lima jawaban berbeda," ujarnya.
Bagi kebanyakan orang, istilah ini sering diartikan sebagai otomatisasi tingkat tinggi. Jika demikian, Monteiro menyebut guardrails adalah masalah utamanya.
Ia membedakan dua jenis batasan fundamental. "Jenis pertama yang dipikirkan semua orang adalah guardrail teknologi," katanya. Ini adalah soal memastikan sistem, seperti Large Language Model (LLM), mengerjakan apa yang seharusnya dilakukan. "Meskipun itu sangat penting, saya rasa itu bukan yang terpenting," tegas Monteiro.
Monteiro memberikan contoh kuat di sektor rumah sakit. Sebelum menerapkan sistem AI otomatis untuk memantau pasien atau mengelola obat, organisasi harus terlebih dahulu menjawab pertanyaan filosofis. "Jika seseorang didiagnosis menderita suatu penyakit, siapa yang berhak tahu?" tanyanya.
Informasi kesehatan, lanjutnya, sangat pribadi dan merupakan pilihan pasien untuk membaginya, bahkan kepada keluarga. "Itu bukan masalah teknologi. Itu masalah filosofis, masalah etika," jelas Monteiro.
Ia bahkan menceritakan pengalaman pribadinya di rumah sakit, ketika seorang dokter ragu untuk mendiskusikan hasil tes yang sensitif (terkait fungsi hati) di depan istrinya. Ia mempertanyakan bencana yang bisa terjadi jika sistem AI secara otomatis mengumumkan informasi privat tersebut secara terbuka.
"Orang-orang perlu menyadari, Anda perlu menetapkan batasan pada perencanaan dan filosofi terlebih dahulu," simpulnya. Baru setelah itu, teknologi harus dirancang untuk "memberikan guardrails yang Anda tetapkan sebagai prioritas organisasi".
Monteiro memprediksi bahwa kesadaran akan konvergensi antara etika dan teknologi ini akan semakin meningkat di tahun mendatang.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
