Melalui halaman situs resminya, pembuat model AI Claude itu mengusulkan adanya jeda atau perlambatan sementara dalam pengembangan sistem AI paling canggih di dunia.
Usulan tersebut muncul setelah Anthropic menilai model-model AI generasi terbaru mulai menunjukkan kemampuan yang berpotensi melampaui kapasitas pengawasan manusia apabila perkembangan teknologinya berlangsung terlalu cepat.
Dalam laporan terbarunya, perusahaan berbasis di San Francisco, Amerika Serikat, itu menyebut dunia perlu memiliki opsi untuk memperlambat pengembangan AI frontier atau AI paling mutakhir agar riset keamanan, regulasi, dan kesiapan sosial dapat mengejar laju inovasi teknologi.
Namun Anthropic menegaskan bahwa penghentian sementara tidak akan efektif jika hanya dilakukan oleh satu perusahaan. Menurut mereka, langkah tersebut harus melibatkan perusahaan AI besar di berbagai negara secara bersamaan, terutama Amerika Serikat dan China yang saat ini menjadi dua kekuatan utama dalam perlombaan AI global.
Anthropic Soroti Risiko AI yang Berkembang Terlalu Cepat
Anthropic menilai industri AI saat ini berada dalam posisi yang unik. Perusahaan-perusahaan teknologi berlomba menghadirkan model yang semakin kuat, sementara regulasi dan mekanisme pengawasan masih terus berkembang.Menurut perusahaan tersebut, tanpa adanya koordinasi internasional, pemerintah maupun perusahaan akan menghadapi tekanan kompetitif dan geopolitik yang dapat membuat aspek keselamatan menjadi prioritas kedua.
Perdebatan mengenai keamanan AI sendiri semakin mengemuka dalam beberapa bulan terakhir, terutama setelah munculnya model-model AI dengan kemampuan penalaran, pemrograman, hingga analisis keamanan siber yang semakin maju.
Anthropic sebelumnya juga menjadi sorotan karena memiliki model AI bernama Mythos yang belum dirilis untuk publik luas. Model tersebut disebut memiliki kemampuan siber yang cukup kuat sehingga penggunaannya masih dibatasi untuk organisasi tertentu yang telah melalui proses verifikasi.
Usulan Jeda AI Hadapi Tantangan Besar
Meski terdengar masuk akal dari sisi keamanan, gagasan untuk memperlambat pengembangan AI diperkirakan akan menghadapi banyak tantangan.Sejumlah pihak di industri teknologi dan pemerintahan Amerika Serikat berpendapat bahwa perlambatan inovasi dapat memberikan keuntungan strategis kepada negara lain, khususnya China, dalam kompetisi teknologi global.
Anthropic sendiri mengakui bahwa implementasi jeda pengembangan AI jauh lebih rumit dibandingkan pengawasan senjata nuklir. Jika fasilitas nuklir relatif mudah dilacak, proses pelatihan model AI dapat dilakukan secara tertutup sehingga lebih sulit diverifikasi.
Co-founder Anthropic, Jack Clark, menggambarkan kondisi industri AI saat ini seperti kendaraan yang hanya memiliki pedal gas tanpa rem.
Menurutnya, dunia perlu memiliki mekanisme yang memungkinkan pengembang menghentikan sementara laju inovasi ketika risiko yang muncul mulai melampaui kesiapan sistem pengawasan.
AI Disebut Mulai Mempercepat Pengembangan AI
Kekhawatiran Anthropic tidak hanya terkait kemampuan AI saat ini, tetapi juga kemungkinan munculnya fenomena yang dikenal sebagai recursive self-improvement.Konsep tersebut merujuk pada kondisi ketika AI mampu membantu mengembangkan AI yang lebih canggih secara berulang dengan campur tangan manusia yang semakin minim.
Anthropic menegaskan bahwa skenario tersebut belum terjadi saat ini dan bukan sesuatu yang pasti. Namun perusahaan melihat indikasi bahwa peran manusia dalam proses pengembangan AI secara bertahap mulai berkurang.
Karena itu, Anthropic berencana mengajak pemerintah, peneliti, kelompok advokasi, serta perusahaan AI lain untuk membahas mekanisme koordinasi global yang dapat memastikan perkembangan kecerdasan buatan tetap berjalan aman dan bertanggung jawab.
Jadikan Medcom.id sumber informasi pilihan Anda
