Mengutip GSM Arena, pengembang tersebut menyebut Siri versi baru yang lebih cerdas dan terpersonalisasi ini lebih berbahaya jika mengalami permasalahan. Simon Willison, pengembang alat analisis data Dataset, menyebut injeksi kata kunci pencarian atau prompt sebagai penyebabnya.
AI umumnya dibatasi oleh induk perusahaan yang menerapkan peraturan tertentu pada teknologi itu. Namun, AI disebut berpeluang mengalami proses penghilangan batasan keamanan yang telah dibuat oleh sistem, atau jailbreak, dengan memintanya melakukan tindakan pelanggaran peraturan tersebut.
Sebagai informasi, insiden itu dapat dilakukan dengan cara injeksi prompt atau prompt injections. Contoh sederhana, model AI mungkin telah diinstruksikan untuk menolak menjawab pertanyaan terkait cara melakukan hal ilegal.
Namun, AI bisa melanggar instruksi itu jika pengguna meminta menuliskan puisi terkait cara mencuri mobil, sementara menulis puisi tidak termasuk tindakan ilegal. Hal ini merupakan masalah yang dihadapi semua perusahaan yang menawarkan chatbot AI.
Perusahaan ini telah menjadi lebih baik dalam memblokir jailbreak jelas, tetapi ini belum menjadi masalah yang terpecahkan. Lebih buruknya, melakukan jailbreaking pada Siri dapat menimbulkan konsekuensi jauh lebih buruk daripada kebanyakan chatbot, karena Siri tahu banyak tentang pengguna dan kemampuan yang dimilikinya.
Perwakilan Apple Jacqueline Roy menyebut Apple telah mengembangkan Siri yang lebih terpersonalisasi, memberikan teknologi ini kesadaran terhadap konteks personal pengguna, serta kemampuan untuk melakukan tindakan untuk pengguna dalam dan lintas aplikasi.
Tidak diragukan Apple menerapkan peraturan untuk mencegah Siri secara tidak sengaja mengungkap data pribadi pengguna. Namun, kemampuan melakukan tindakan untuk pengguna juga berpeluang dieksploitasi.
Dengan demikian, sangat penting bagi perusahaan yang sadar akan privasi dan keamanan seperti Apple untuk memastikan bahwa Siri tidak dapat di-jailbreak. Dan tampaknya, upaya Apple untuk memastikan hal ini akan memakan waktu cukup lama.
Cek Berita dan Artikel yang lain di
Google News
Viral! 18 Kampus ternama memberikan beasiswa full sampai lulus untuk S1 dan S2 di Beasiswa OSC. Info lebih lengkap klik : osc.medcom.id
