Menurut penelitian ESG baru-baru ini, para ahli setuju bahwa GenAI sudah lazim saat ini. Teknologi ini akan menjadi faktor kunci dalam keputusan pembelian keamanan siber dan menjadi tersebar luas dalam aplikasi bisnis pada akhir tahun 2024. Faktanya, Chief Information Security Officer (CISO) APAC dari industri keuangan mengungkapkan bahwa dewan mengalokasikan sebanyak 30% dari anggaran pengeluaran TI mereka untuk AI, karena mereka menyadari nilai yang dapat dibawa AI ke bisnis mereka.
Namun, penelitian yang sama juga menerangi kekhawatiran. Sekitar 70% peserta survei menekankan kesulitan memasukkan GenAI ke dalam kerangka kerja keamanan saat ini, sementara 60% menyoroti bahaya yang terkait dengan potensi bias dan dilema etika.
Dari perspektif CISO, juga mengkhawatirkan bahwa tidak ada kejelasan tentang bagaimana informasi yang dibagikan dengan platform ini dikelola atau digunakan. Ini jauh berbeda dari praktik sebelumnya, seperti adopsi teknologi cloud misalnya. Proliferasi layanan cloud benar-benar lepas landas ketika peraturan diberlakukan oleh berbagai pemerintah untuk menetapkan batasan dan memastikan keamanan data.
Dalam serangkaian sesi meja bundar di seluruh wilayah APAC, kami berbicara dengan beberapa CISO dari berbagai industri termasuk lembaga keuangan, pemerintah, infrastruktur penting, utilitas, manufaktur, dan banyak lagi, tentang status adopsi AI Generatif saat ini ke dalam perusahaan mereka.
Mirip dengan temuan penelitian, kami mendengar bahwa sebagian besar CISO mengakui bahwa teknologi GenAI akan tetap ada dan akan memainkan peran penting untuk keamanan siber. Namun, mayoritas ragu-ragu untuk melanjutkan adopsi skala besar di seluruh perusahaan mereka karena masalah AI lainnya.
Memang, AI memiliki janji besar, termasuk kemampuan transformatif, peningkatan efisiensi, analisis data yang ditingkatkan, dan memecahkan krisis bakat keamanan siber, antara lain. Terlepas dari janji-janji cerah dan dorongan untuk adopsi ini, kami menemukan bahwa CISO APAC merasa bahwa masih ada terlalu banyak hal yang tidak diketahui dalam teknologi ini. Putusannya? Menurut CISO APAC, GenAI saat ini dianggap tidak praktis untuk bisnis, sampai penyesuaian penting dilakukan dengan teknologi dan lingkungan operasi.
Dalam artikel ini, kami mempelajari sorotan utama, yang mencerminkan wawasan berharga dari CISO APAC ini tentang pemikiran mereka tentang GenAI, kekhawatiran, tantangan mereka, dan bagaimana mereka membayangkan implementasi teknologi yang sukses ke dalam organisasi mereka.
Perspektif CISO APAC: Pemikiran tentang GenAI
AI dan GenAI bukanlah hal yang sama: CISO APAC mengakui bahwa AI bukanlah konsep baru dan telah hadir selama bertahun-tahun. Asisten virtual seperti Siri dan Alexa, mobil self-driving, robotika, video game semuanya memanfaatkan AI. Inti dari perbedaan antara keduanya terletak pada kemampuan GenAI untuk meniru kecerdasan manusia, mampu memahami dan memecahkan masalah — dan itulah daya tarik dan kekuatan GAI.
Apakah itu hanya mode lain?: CISO ini sedang mempertimbangkan apakah teknologi GenAI adalah keinginan atau kebutuhan saat ini — Mereka percaya bahwa tidak ada kebutuhan mendesak untuk menggabungkan teknologi ini di seluruh bisnis, dan mengadvokasi implementasi yang lebih bertahap. CISO ingin merasa percaya diri tentang teknologi, infrastruktur, dan prosesnya. Arus saat ini tampaknya lebih tentang menyelaraskan dengan "tren", mirip dengan masa lalu dengan cloud dan blockchain.
Mungkin belum waktunya: CISO memahami bahwa teknologi ini akan tetap ada dan dewan tanpa henti mendorong adopsinya karena janji-janji transformatifnya seperti proses pengembangan pelacakan cepat dan penghematan biaya. Namun, perlu ada lebih banyak kontrol atas teknologi untuk merangkulnya. Protokol, proses, dan edukasi adalah suatu keharusan, agar batas-batas ditetapkan, dan mengetahui bahwa informasi yang dimasukkan ke dalam platform GenAI aman dari pihak luar.
GenAI perlu memenuhi harapannya — untuk memprediksi secara akurat dan mengelola ancaman yang belum pernah terlihat sebelumnya. Kekuatan GenAI hanya dapat sepenuhnya bermanfaat bagi organisasi ketika dapat diterapkan pada konsolidasi pengetahuan, data, dan wawasan di seluruh organisasi tanpa kesalahan atau informasi yang salah yang digunakan. Tantangan dengan GenAI
GenAI adalah masalah "mewah": Menghadirkan kejadian yang realistis dan umum, CISO termasuk yang ada di APAC kekurangan waktu dan sumber daya. Mereka sudah menghadapi banyak masalah mendesak lainnya, termasuk masalah mendasar seperti memerangi serangan siber dan memantau ancaman malware, meninggalkan GenAI sebagai pertimbangan sekunder.
Tenaga kerja yang tangguh: Budaya memainkan peran besar dalam adopsi. Insinyur dan tim keamanan mungkin berpikir bahwa perubahan tidak diperlukan atau karena mereka merasa tidak nyaman menjelajahi wilayah yang tidak dikenal. Ketidaknyamanan ini mungkin berasal dari kurangnya pemahaman dalam hal penggunaan, kemampuan, dan kewajiban, sehingga mengakibatkan resistensi yang tinggi pada adopsi.
Bias informasi: Alat GenAI ini biasanya menghasilkan konten berdasarkan data input, membuatnya rentan terhadap bias dan informasi yang salah. Dengan tidak ada cara untuk memeriksa fakta sejumlah besar informasi yang dimasukkan ke dalam sistem, informasi palsu mungkin malah diedarkan dan digunakan, menimbulkan tantangan yang signifikan dalam mempertahankan pengetahuan yang akurat dan dapat diandalkan.
Dilema keamanan: Kesepakatan umum di antara kelompok kunci CISO APAC adalah bahwa adopsi GenAI membuka lebih banyak masalah daripada menyelesaikannya. Untuk membantu adopsi GenAI dalam organisasi untuk karyawannya, tim keamanan harus menurunkan pagar pembatas untuk mendukung penggunaan GenAI, tetapi terus menjaga 'empuk' ini dan aman saat tenaga kerja menavigasi melalui teknologi baru. Ini menambahkan lapisan kompleksitas yang tidak perlu untuk tim yang sudah terlalu banyak bekerja, yang dapat berdampak negatif pada keamanan dan pemantauan sistem lain.
Kekhawatiran tentang GenAI
Perairan yang belum dipetakan: Masih banyak hal yang tidak diketahui dalam teknologi GenAI — Bagaimana informasi disimpan dan digunakan? Siapa yang memiliki hak atas data yang dimasukkan ke dalam platform? Bagaimana kami memastikan properti kepemilikan tidak bocor dan digunakan untuk tujuan lain? Ada begitu banyak pertanyaan yang belum terjawab sehingga CISO APAC merasa tidak nyaman dengan GenAI sebagai pilihan yang layak saat ini.
Proses, regulasi & pedoman: Salah satu gema terbesar yang kami dengar di semua sesi kami dengan CISO APAC ini adalah bahwa tidak ada peraturan dan pedoman yang ditetapkan dan CISO tidak percaya diri untuk bergerak maju. Misalnya, dalam kasus Microsoft Copilot, Copilot merasa bahwa "jika pengguna memiliki hak atas dokumen tersebut, Copilot juga memiliki hak atasnya" — dan ini membuat 'kepemilikan' tersebut menjadi masalah.
Untuk privasi dan perlindungan data perusahaan, hak atas data/informasi harus selalu berada di dalam perusahaan, meskipun menggunakan alat/platform pihak ketiga. Keterbatasan seperti itu menyuarakan keraguan yang dirasakan CISO APAC ini dalam mengadopsi GenAI sepenuhnya.
Untungnya, kita sudah melihat inisiatif untuk mengatur AI dari badan-badan pemerintah, termasuk diskusi dari pemerintah Singapura, dan Parlemen Eropa meloloskan peraturan AI pertama — Undang-Undang AI UE, awal tahun ini.
Mencairkan bakat: Salah satu janji yang diduga dibawa GenAI adalah mempersempit kesenjangan bakat keamanan siber. Namun, CISO APAC telah mengamati bahwa mendelegasikan tugas "peringkat rendah" ke AI berisiko terkikisnya pengetahuan industri dan pengalaman yang relevan di antara talenta manusia. Keterampilan menulis kode sudah berkurang, dan pekerjaan analis pada akhirnya akan hilang. Karena kurangnya pengetahuan, CISO APAC khawatir tentang melemahkan keahlian dan kemampuan tenaga kerja. Ini juga berarti bahwa individu dengan pengalaman tingkat dasar dapat menjadi lebih dicari di masa depan.
Namun, tren ini bukan pertanda baik bagi tim keamanan di masa depan, karena dapat menyebabkan kekurangan profesional yang dilengkapi dengan keahlian dan pengalaman yang diperlukan untuk mencegah serangan siber secara efektif.
(Bisham Kishnani, Evangelist & Head, SE, APAC & Jepang, Check Point Software Technologies)
Cek Berita dan Artikel yang lain di
Google News
