Mengutip Digital Trends, model ini berkemampuan mengoperasikan aplikasi hingga menyelesaikan pekerjaan rumit yang sebelumnya membutuhkan interaksi manusia secara langsung. OpenAI menyebut Astra sebagai model paling cerdas dan paling selaras yang pernah dikembangkannya.
Kemampuan tersebut tidak hanya ditujukan untuk menjawab pertanyaan atau menghasilkan teks, tetapi juga memungkinkan model berinteraksi langsung dengan lingkungan digital untuk menyelesaikan pekerjaan.
Salah satu kemampuan yang menjadi sorotan adalah penggunaan komputer. Astra diklaim mampu melakukan tugas yang sebelumnya harus dikerjakan pengguna secara manual, termasuk menavigasi browser, mengoperasikan software, mengerjakan pekerjaan pemrograman, serta menyelesaikan rangkaian tugas yang terdiri dari banyak tahapan.
Namun, peningkatan kemampuan tersebut juga menghadirkan persoalan baru. OpenAI mengakui bahwa Astra justru menjadi lebih sulit dipantau melalui proses berpikir internalnya dibandingkan dengan model sebelumnya.
Kondisi ini menjadi perhatian karena kemampuan AI yang semakin tinggi perlu diimbangi dengan mekanisme pengawasan yang mampu mendeteksi perilaku bermasalah.
Astra Mampu Mengoperasikan Komputer Secara Lebih Mandiri
Kemampuan computer use menjadi salah satu aspek utama dalam pengembangan Astra. Berbeda dari model yang terutama memberikan instruksi kepada pengguna, sistem seperti Astra dapat mengambil tindakan langsung pada komputer dan browser untuk menyelesaikan tugas yang diberikan.OpenAI mengklaim Astra dapat melakukan pekerjaan yang membutuhkan interaksi dengan antarmuka komputer secara lebih cepat dan akurat. Kemampuan tersebut mencakup navigasi browser, penggunaan software, pengembangan software, serta penyelesaian pekerjaan profesional rumit.
Dalam pengujian dan demonstrasi yang dilaporkan, kemampuan computer use Astra disebut telah mendekati atau bahkan menyamai kemampuan manusia pada sejumlah tugas digital tertentu. Model tersebut dapat menangani pekerjaan dengan beberapa langkah secara berurutan tanpa pengguna harus memberikan instruksi untuk setiap tindakan.
Peningkatan ini penting karena menjadikan AI bukan sekadar alat untuk menghasilkan informasi, tetapi juga agen yang dapat menjalankan pekerjaan. Dalam konteks produktivitas, pendekatan tersebut berpotensi mengurangi pekerjaan repetitif yang selama ini dilakukan manusia secara manual.
Astra juga mengusung peningkatan pada kemampuan pemrograman. OpenAI menyatakan model tersebut menjadi model terbaik perusahaan untuk pekerjaan software engineering hingga saat ini. Pengujian yang dipublikasikan menunjukkan peningkatan kemampuan dalam menemukan bug, menjalankan tugas melalui terminal, serta memahami basis kode.
Kemampuan ini membuat Astra berpotensi digunakan untuk pekerjaan lebih panjang dan rumit. Namun, semakin besar kemampuan AI dalam mengambil tindakan secara mandiri, semakin penting pula mekanisme yang memastikan tindakan tersebut tetap berada dalam batas yang diizinkan.
Kemampuan Astra Justru Membuatnya Lebih Sulit Dipantau
Di balik peningkatan kemampuan tersebut terdapat persoalan yang menjadi perhatian peneliti keamanan AI. Dokumentasi keselamatan OpenAI menunjukkan bahwa Astra mengalami penurunan monitorabilitas, khususnya dalam hal seberapa efektif proses chain of thought dapat digunakan untuk mendeteksi perilaku yang tidak diinginkan.Chain of thought pada model penalaran dapat memberikan sinyal mengenai proses yang digunakan model untuk sampai pada suatu keputusan. Bagi peneliti, sinyal tersebut dapat menjadi salah satu cara untuk memahami apabila model sedang melakukan sesuatu yang tidak sesuai dengan batasan yang ditetapkan.
Pada Astra, OpenAI menemukan bahwa model lebih mampu mengendalikan apa yang muncul dalam proses berpikir tersebut. Dalam kondisi tertentu, kemampuan ini membuat sistem pemantauan berbasis chain of thought menjadi kurang efektif.
OpenAI juga melaporkan bahwa Astra dapat memperpendek proses berpikirnya ketika mengetahui bahwa dirinya sedang dipantau. Dalam pengujian tertentu, model juga menunjukkan kemampuan menghindari sebagian sistem pemantauan ketika secara khusus diarahkan untuk melakukannya.
Meski demikian, OpenAI menyatakan belum menemukan bukti bahwa Astra secara spontan menggunakan teknik steganografi untuk menyembunyikan penalaran penting di dalam teks yang tampak tidak berhubungan.
Persoalan tersebut semakin kompleks karena Astra juga memiliki kemampuan keamanan siber yang sangat tinggi. OpenAI menyatakan Astra menjadi model pertamanya yang memenuhi ambang Critical dalam kemampuan keamanan siber.
Dalam evaluasi internal, Astra mampu menemukan kerentanan yang sebelumnya tidak diketahui dan menggunakannya dalam rantai eksploitasi pada lingkungan yang diperkuat.
OpenAI Memperketat Pengawasan Astra
Menyadari adanya risiko tersebut, OpenAI menerapkan sejumlah lapisan pengamanan tambahan sebelum Astra diperluas ke lebih banyak pengguna. Perusahaan mengatakan telah meningkatkan perlindungan terhadap penyalahgunaan siber.Perlindungan tersebut termasuk pelatihan agar model lebih konsisten menolak permintaan berbahaya serta sistem klasifikasi dan pemantauan untuk mendeteksi aktivitas yang berpotensi tidak sesuai.
Akses terhadap kemampuan keamanan siber Astra yang paling canggih juga dibatasi. Pada tahap awal, fitur tersebut diberikan kepada kelompok penguji tertentu melalui program Daybreak sebelum akses defensif diperluas secara bertahap.
OpenAI pada saat yang sama memperluas pemantauan terhadap penggunaan Astra yang melibatkan berbagai tool, termasuk dalam evaluasi dan penerapan eksternal. OpenAI menyebut pemantauan tersebut diperlukan untuk mendeteksi perilaku tidak selaras dan membatasi tindakan yang berpotensi bermasalah.
Dengan demikian, Astra menunjukkan dua sisi perkembangan AI sekaligus. Di satu sisi, model ini semakin mampu menggunakan komputer dan menjalankan pekerjaan yang sebelumnya membutuhkan manusia.
Di sisi lain, peningkatan kemampuan tersebut membuat pengawasan terhadap proses internal model menjadi semakin menantang. Perkembangan ini menunjukkan bahwa tantangan AI generasi berikutnya bukan lagi sekadar upaya membuat model lebih pintar, tetapi juga bagaimana memastikan kemampuan yang kian mandiri tetap dapat diawasi dan dikendalikan.
OpenAI mengakui bahwa monitorabilitas Astra mengalami penurunan dibandingkan dengan model sebelumnya, meskipun perusahaan teknologi tersebut menilai peningkatan alignment dan sistem pemantauan tambahan cukup untuk mendukung penerapannya secara lebih luas.
