AI semakin banyak digunakan di sektor militer, termasuk dalam sistem komando, kontrol, dan komunikasi nuklir (NC3)
Bahkan, Presiden AS Joe Biden dan Presiden Tiongkok Xi Jinping pernah membahas topik ini, sepakat bahwa keputusan penggunaan senjata nuklir harus tetap berada di tangan manusia. Jadi, apakah kita benar-benar siap menyerahkan kendali senjata nuklir kepada AI?
Kekuatan dan Potensi AI dalam Senjata Nuklir
AI menawarkan kemampuan untuk menganalisis data intelijen dalam jumlah besar dengan cepat dan tanpa bias emosi manusia, seperti rasa takut atau kemarahan.Ini bisa membantu para pemimpin membuat keputusan yang lebih baik saat krisis, ketika risiko kesalahan dan eskalasi konflik nuklir meningkat.
Misalnya, AI bisa digunakan dalam sistem peringatan dini untuk mendeteksi ancaman nuklir dengan lebih akurat dibandingkan manusia.
Menurut Peter Rautenbach dalam Arms Control Association, AI dapat membantu mengurangi kesalahan manusia dan mendukung pemimpin militer dalam pengambilan keputusan, terutama ketika waktu sangat terbatas dan tekanan tinggi.
Menurut Profesor Steffan Puwal, ahli fisika di Universitas Oakland yang berasosiasi dengan NATO Review, AI punya potens untuk memperkuat kemampuan deteren nuklir tanpa perlu memperluas persenjataan.
Ia juga mencatat bahwa larangan penggunaan AI dalam pertahanan nuklir sering kali didasarkan pada kesalahpahaman tentang teknologi AI saat ini, yang sering kali dipengaruhi oleh kesalahpahaman yang berasal dari fiksi populer daripada didasarkan pada bukti ilmiah yang solid.
Banyak orang membayangkan AI seperti "Skynet" dalam film Terminator 2, yang memiliki kesadaran diri dan mengambil keputusan sendiri tanpa kendali manusia.
Padahal, jenis AI yang ada saat ini tidak memiliki kemampuan berpikir independen atau kesadaran diri; AI saat ini hanya mampu menjalankan instruksi yang diberikan manusia tanpa memahami tujuan strategis yang lebih besar.
Contohnya, pada masa Perang Dingin, peningkatan akurasi senjata nuklir memungkinkan Amerika Serikat untuk mempertahankan kemampuan pencegahan yang efektif dengan jumlah senjata yang lebih sedikit, menghemat biaya dan mengurangi potensi dampak destruktif.
Risiko dan Tantangan Penggunaan AI
Namun, penggunaan AI dalam senjata nuklir juga membawa risiko besar. AI rentan terhadap kesalahan teknis dan serangan siber, yang dapat menyebabkan informasi salah atau bahkan peluncuran senjata secara tidak sengaja.Misalnya, serangan siber pada tahun 2010 yang dikenal dengan Stuxnet berhasil merusak fasilitas nuklir Iran dengan mengubah data operasional tanpa terdeteksi.
Dengan semakin meningkatnya serangan siber global, risiko ini menjadi perhatian yang serius bagi banyak negara.
Kesalahan seperti "false positive" atau peringatan palsu bisa sangat berbahaya jika AI salah mengidentifikasi ancaman.
Sejarah menunjukkan bahwa kesalahan dalam sistem peringatan nuklir, seperti yang terjadi pada insiden di tahun 1983 ketika sistem peringatan Uni Soviet salah mendeteksi peluncuran rudal dari Amerika Serikat, hampir memicu konflik nuklir besar.
Peter Rautenbach juga menekankan bahwa jika keterbatasan teknis AI tidak diatasi dengan baik, risiko penggunaan senjata nuklir secara tidak disengaja akan semakin meningkat.
Masalah lainnya adalah penyelarasan tujuan ("alignment"). AI terkadang dapat melakukan tindakan yang tidak sesuai dengan maksud manusia karena kurangnya pemahaman yang jelas terhadap tujuan strategis.
Hal ini menimbulkan kekhawatiran bahwa AI dapat mengambil keputusan yang berbahaya di saat krisis atau memberikan informasi yang salah, yang bisa memicu respons yang tidak diinginkan.
Misalnya, dalam konteks NC3, AI yang tidak terkontrol bisa saja memberikan informasi yang keliru mengenai keberadaan ancaman, yang berpotensi memicu tindakan berbahaya.
Pandangan Internasional
Beberapa pemimpin dunia, termasuk Joe Biden dan Xi Jinping, telah menekankan pentingnya kendali manusia atas keputusan penggunaan senjata nuklir.Pada pertemuan di KTT APEC di Peru bulan November, mereka menegaskan bahwa kendali ini penting untuk menghindari risiko yang terkait dengan penggunaan AI dalam sistem senjata nuklir.
"Kedua pemimpin menegaskan perlunya mempertahankan kendali manusia atas keputusan penggunaan senjata nuklir," kata Gedung Putih dalam keterangan mereka, mereferensikan Xi dan Biden.
"Kedua pemimpin juga menekankan perlunya mempertimbangkan dengan hati-hati potensi risiko dan mengembangkan teknologi AI di bidang militer secara bijaksana dan bertanggung jawab," lanjut Gedung Putih.
Pada pertemuan Responsible AI in the Military Domain (REAIM) Summit di Seoul, Korea Selatan, pada September 2024, sekitar 60 negara, termasuk Amerika Serikat dan Inggris, mengadopsi deklarasi 'Blueprint for Action'.
Deklarasi ini menegaskan bahwa kontrol manusia harus tetap dipertahankan dalam semua tindakan yang berkaitan dengan penggunaan senjata nuklir.
AI memang memiliki potensi untuk meningkatkan efisiensi dan akurasi dalam sistem senjata nuklir, namun risiko yang ditimbulkan tidak bisa diabaikan.
Saat ini, konsensus internasional tampaknya lebih memilih untuk mempertahankan kendali manusia atas keputusan penggunaan senjata nuklir, demi mencegah potensi kesalahan fatal yang bisa mengancam umat manusia.
Diskusi mengenai penggunaan AI dalam sistem nuklir perlu terus dilakukan dengan hati-hati, sambil mempertimbangkan perkembangan teknologi dan dampaknya terhadap keamanan global.
Baca Juga:
Sekjen NATO: Rusia Coba Rebut Lebih Banyak Wilayah di Ukraina
Cek Berita dan Artikel yang lain di
