Dalam gelaran SAP Now AI Tour Southeast Asia 2026, President & Chief Product Officer SAP Data & Analytics, Irfan Khan, mengungkapkan bahwa agen AI yang berjalan tanpa pengawasan ketat dapat menjadi risiko operasional besar bagi korporasi. Untuk menggambarkan situasi riskan ini, Irfan memberikan analogi mengenai sosok agen hipotetis bernama Arnie.
"Arnie adalah tipe agen yang sangat cekatan dan efektif dalam menyelesaikan pekerjaan. Namun, masalah timbul karena ia terkadang masuk ke area sensitif yang tidak seharusnya diakses, atau mengambil tindakan yang tidak terduga," ujar Irfan di hadapan para peserta.
Menurut Irfan, fenomena agen AI yang melenceng dari batasan operasional bukan lagi isu teoritis. Bahkan, pengembang laboratorium model AI terkemuka seperti OpenAI dan Anthropic belakangan mulai terbuka mengenai kecenderungan agen kecerdasan buatan yang dapat keluar dari koridor keamanan saat mengeksekusi instruksi kompleks. Dalam lingkungan bisnis, ketidakpastian aksi agen ini berpotensi merusak integritas data, mengacaukan transaksi finansial, hingga memicu kendala kepatuhan regulasi.
Pengawas AI Enterprise
Guna mengeliminasi ancaman agen AI liar, SAP Business AI Platform merancang kerangka kerja pengawasan berbasis dua pilar utama, yakni SAP Agent Hub dan ruang kerja dinamis Joule.Melalui platform SAP Agent Hub, seluruh agen AI yang beroperasi di dalam ekosistem perusahaan—baik agen bawaan maupun agen pihak ketiga—wajib terdaftar secara resmi. Hub ini berfungsi sebagai pusat kontrol dan pemantauan terpadu yang memastikan seluruh agen bergerak di dalam batasan aman (guardrails) yang ketat.
Sementara itu, sistem Joule hadir sebagai dynamic workspace berbasis niat pengguna. Tidak hanya menyajikan wawasan data secara real-time, Joule juga bertindak sebagai pengatur lintas domain yang mengendalikan alur kerja para agen secara transparan.
"Setiap tindakan yang boleh maupun tidak boleh dilakukan oleh agen akan terpantau dalam kerangka kerja tata kelola ini. Perusahaan tidak perlu lagi merasa ragu apakah agen pembayaran atau agen rantai pasok mereka bekerja di luar batas kewenangan," tegas Irfan.
Menutup Celah Konteks dan Integritas Data
Selain aspek pengawasan aksi, kelemahan mendasar dari kegagalan proyek AI enterprise bersumber dari celah konteks (context gap). Irfan menjelaskan bahwa mayoritas frontier models saat ini dirancang untuk memprediksi kata berikutnya dalam kalimat, bukan memahami logika operasional bisnis yang rumit. Akibatnya, agen sering kali gagal memprediksi gangguan rantai pasok secara akurat.Untuk menutup celah tersebut, SAP memperkuat landasan Knowledge Core dan SAP Knowledge Graph yang memetakan lebih dari 120 proses bisnis dengan jutaan bidang data. Langkah ini disempurnakan melalui akuisisi strategis seperti Dremio untuk skala data lakehouse, Reltio untuk Master Data Managemen, serta Trialabs untuk menghadirkan pemodelan prediktif berbasis tabel.
Jadikan Medcom.id sumber informasi pilihan Anda
