Sekjen PBB Serukan 'Pagar Pembatas' agar Penggunaan AI Tetap Terkendali

New York: Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres memperingatkan bahwa kecerdasan buatan (AI) dapat menimbulkan risiko bagi perdamaian dan keamanan global. Ia menyerukan semua negara anggota untuk segera memasang 'pagar pembatas' agar teknologi AI tetap terkendali.
 
Sudah jelas bahwa AI akan berdampak pada setiap bidang kehidupan kita, kata Guterres dalam pertemuan pertama Dewan Keamanan PBB tentang topik tersebut pada Selasa, 18 Juli.
 
Baca juga:  Akhirnya DK PBB Bakal Bikin Pembahasan Terkait AI
"AI generatif memiliki potensi yang sangat besar untuk kebaikan dan juga kejahatan dalam skala besar," tambahnya, seraya mencatat bahwa meski dapat membantu mengakhiri kemiskinan atau menyembuhkan kanker, teknologi tersebut juga dapat memiliki konsekuensi serius bagi perdamaian dan keamanan global.
 
Menteri Luar Negeri Inggris James Cleverly, yang negaranya saat ini memegang jabatan ketua DK PBB, mengatakan bahwa AI akan memengaruhi pekerjaan dewan ini. AI juga dapat meningkatkan atau sebaliknya, mengganggu stabilitas strategis global.
 
"(AI) menantang asumsi mendasar kami tentang pertahanan dan pencegahan. Ini menimbulkan pertanyaan moral tentang pertanggungjawaban atas keputusan mematikan di medan perang," kata Cleverly, yang pemerintahnya akan menjadi tuan rumah KTT AI akhir tahun ini.
 
Dikutip dari AFP, Guterres meminta negara-negara anggota PBB untuk memberlakukan pakta yang mengikat secara hukum untuk "melarang sistem senjata otonom mematikan" pada akhir 2026.
 
Sementara AI dapat digunakan untuk mengidentifikasi pola kekerasan atau memantau gencatan senjata, kata Guterres, ia memperingatkan bahwa penggunaannya oleh teroris atau pemerintah dengan niat buruk dapat menyebabkan "tingkat kematian dan kehancuran yang mengerikan."
 
Ia juga memperingatkan bahwa AI yang tidak berfungsi dapat mendatangkan malapetaka, terutama jika teknologi tersebut digunakan dalam kaitannya dengan sistem senjata nuklir atau bioteknologi.
 
"Saya mendesak kesepakatan tentang prinsip umum bahwa agensi dan kontrol manusia sangat penting untuk senjata nuklir dan hal ini harus benar-benar dilakukan," tegas Guterres.
 
Selain itu, ia juga meminta sebuah kelompok kerja PBB untuk mengembangkan opsi tata kelola AI global di akhir tahun.
 
Akhir kata, Guterres menegaskan kembali dukungannya terhadap entitas PBB untuk mendukung upaya mengatur penggunaan AI, yang meniru Badan Energi Atom Internasional (IAEA) atau Organisasi Penerbangan Sipil Internasional (ICAO).
 
Jangan lupa ikuti update berita lainnya dan follow akun google news Medcom.id