Kebijakan ini menjadi bagian dari upaya Instagram meningkatkan transparansi mengenai akun yang menggunakan karakter digital sebagai identitas utama. Bersamaan dengan aturan baru tersebut, Instagram juga mengganti nama label yang sebelumnya disebut AI creator menjadi AI-generated profile.
Mengutip Digital Trends, Instagram menyebut perubahan tersebut dilakukan agar pengguna lebih mudah memahami bahwa mereka sedang berinteraksi dengan profil yang menampilkan sosok buatan AI, bukan manusia sungguhan.
Instagram mengatakan bahwa pengguna merasa kurang nyaman ketika sebuah akun terlihat seperti milik manusia nyata, tetapi kemudian diketahui bahwa orang yang ditampilkan sepenuhnya merupakan hasil generative AI.
Instagram Perjelas Label untuk Profil AI
Label AI-generated profile secara khusus ditujukan bagi akun yang menampilkan seseorang yang sepenuhnya atau sebagian besar dibuat menggunakan teknologi AI. Dengan demikian, aturan tersebut tidak berlaku untuk setiap kreator yang memanfaatkan AI dalam proses produksi konten.Instagram masih memperbolehkan kreator manusia menggunakan berbagai perangkat AI untuk membantu membuat konten tanpa harus mencantumkan label tersebut. Misalnya, penggunaan AI untuk menyunting foto, memperbaiki caption, membuat grafis, atau melakukan penyesuaian kreatif lainnya tidak otomatis membuat sebuah akun masuk kategori profil AI.
Perbedaan tersebut penting karena penggunaan AI dalam produksi konten semakin umum dilakukan oleh kreator. Instagram tidak bermaksud menyamakan kreator manusia yang menggunakan AI sebagai alat bantu dengan akun yang identitas manusia dibuat secara sintetis.
Sebaliknya, sasaran utama kebijakan ini adalah profil yang dibangun di sekitar persona manusia virtual. Karakter tersebut dapat dibuat sedemikian rupa sehingga terlihat seperti manusia sungguhan dan berpotensi membuat pengguna tidak menyadari bahwa mereka sebenarnya berinteraksi dengan entitas buatan AI.
Instagram sebelumnya telah menggunakan label AI creator untuk akun semacam itu. Dengan menggantinya menjadi AI-generated profile, Instagram berharap keterangan tersebut dapat memberikan konteks lebih jelas kepada pengguna mengenai identitas sosok yang ditampilkan dalam sebuah profil.
Profil AI Tanpa Label Akan Kehilangan Jangkauan
Perubahan paling signifikan dalam kebijakan terbaru Instagram terletak pada konsekuensi bagi akun yang tidak melakukan pengungkapan dengan benar. Instagram mengatakan akan membatasi jangkauan profil yang menampilkan manusia hasil AI tetapi tidak menggunakan label yang sesuai.Pembatasan tersebut dapat memengaruhi kemampuan konten untuk muncul kepada pengguna yang belum mengikuti akun. Salah satu dampaknya adalah berkurangnya peluang konten untuk direkomendasikan melalui fitur seperti Explore dan Reels, yang selama ini menjadi saluran penting bagi kreator untuk memperoleh audiens baru.
Dengan mekanisme tersebut, Instagram tidak melarang keberadaan profil AI di platformnya. Kreator masih dapat menjalankan akun yang menggunakan persona buatan AI selama mereka memberikan keterangan yang sesuai.
Artinya, label tersebut berfungsi sebagai mekanisme transparansi sekaligus menjadi persyaratan agar akun tidak terkena pembatasan distribusi. Profil AI yang secara sukarela menggunakan label tidak akan kehilangan jangkauan hanya karena karakter yang ditampilkan dibuat menggunakan AI.
Instagram juga menyediakan mekanisme untuk menangani kesalahan identifikasi. Kreator dapat memeriksa status akun mereka melalui Account Status. Jika merasa sebuah akun terkena pembatasan secara keliru, pemilik profil dapat mengajukan banding kepada Instagram.
Bagi akun yang sebelumnya sudah menggunakan label AI creator, Instagram juga memberikan kesempatan untuk meninjau kembali status tersebut. Kreator dapat mengonfirmasi bahwa profil mereka memang memenuhi kriteria AI-generated profile atau menghapus label apabila sudah tidak sesuai dengan kondisi akun.
Kebijakan Muncul di Tengah Maraknya Influencer AI
Langkah Instagram tersebut muncul ketika keberadaan influencer berbasis AI semakin banyak ditemukan di media sosial. Sebagian akun menggunakan karakter yang dirancang menyerupai manusia sungguhan untuk membangun audiens, mempromosikan produk, atau berinteraksi dengan pengguna.Kondisi tersebut menimbulkan persoalan transparansi karena pengguna bisa saja mengira mereka mengikuti kreator manusia. Kekhawatiran menjadi lebih besar ketika persona AI digunakan untuk menyampaikan promosi atau informasi yang dapat memengaruhi keputusan pengguna.
Sejumlah laporan dalam beberapa waktu terakhir juga menyoroti penggunaan persona AI dalam konteks kesehatan dan promosi. Investigasi yang dikutip sejumlah media mengenai kebijakan Instagram menemukan adanya akun yang menampilkan influencer AI dan berinteraksi dengan pengguna seolah-olah mereka merupakan manusia nyata.
Bagi Instagram, pemberian label menjadi salah satu cara untuk mengatasi persoalan tersebut tanpa harus melarang seluruh konten atau akun yang dibuat dengan bantuan AI. Pendekatan ini juga sejalan dengan kebijakan Meta sebelumnya yang berupaya memberikan informasi kepada pengguna ketika mereka melihat konten yang dibuat atau dimodifikasi menggunakan AI.
Dengan aturan terbaru ini, kreator yang menjalankan profil berbasis persona AI perlu memastikan identitas sintetis tersebut dinyatakan secara terbuka. Sementara itu, pengguna Instagram mendapatkan informasi tambahan sebelum memutuskan untuk mengikuti, mempercayai, atau berinteraksi dengan sebuah profil.
Kebijakan tersebut menunjukkan bahwa Instagram mulai memberikan perhatian lebih besar terhadap persoalan identitas digital di tengah semakin realistisnya konten yang dihasilkan AI. Alih-alih melarang profil AI secara keseluruhan, platform memilih mewajibkan pengungkapan dan memberikan konsekuensi terhadap akun yang tidak transparan.
