Instagram resmi mengambil langkah tegas untuk membendung gelombang akun palsu yang menggunakan teknologi kecerdasan buatan (AI) untuk menyamar sebagai manusia. Platform milik Meta ini melakukan perubahan signifikan pada kebijakan pelabelan konten guna meningkatkan transparansi bagi para pengguna di seluruh dunia, termasuk di Indonesia.
Langkah utama yang dilakukan adalah mengubah label 'AI Creator' menjadi 'AI-generated profile'. Perubahan nomenklatur ini bertujuan memberikan kejelasan bagi audiens bahwa sosok yang mereka lihat di layar bukan manusia nyata, melainkan karakter yang dihasilkan oleh algoritma. Perusahaan mengakui bahwa banyak pengguna merasa tertipu ketika berinteraksi dengan profil yang tampak sangat manusiawi, namun ternyata hanyalah entitas digital.
Kehadiran influencer AI belakangan ini memang menjadi fenomena yang sulit dibendung. Dengan kemajuan teknologi generatif, kreator kini dapat menciptakan persona digital yang memiliki penampilan, gaya hidup, hingga cara berkomunikasi layaknya manusia asli. Bagi banyak pengguna, membedakan akun asli dan akun AI menjadi tantangan tersendiri yang mengaburkan batas antara realitas dan simulasi di media sosial.
Instagram menegaskan akan memburu akun-akun yang sengaja tidak mencantumkan label AI pada profil mereka. Sebagai bentuk penalti, akun yang melanggar akan dikenakan pembatasan jangkauan. Artinya, konten dari profil tersebut tidak akan lagi direkomendasikan kepada pengguna yang tidak mengikuti akun tersebut melalui tab Reels maupun Explore. Kebijakan ini diharapkan mampu menekan penyebaran konten 'slop' atau konten otomatis berkualitas rendah yang membanjiri feed pengguna.
Meski demikian, Instagram memberikan ruang bagi pemilik akun untuk melakukan banding jika mereka merasa akun mereka salah ditandai atau disalahartikan oleh sistem. Langkah ini mencerminkan upaya perusahaan untuk menyeimbangkan antara moderasi konten yang ketat dan keadilan bagi kreator yang mungkin menggunakan alat bantu AI dalam proses kreatifnya, bukan untuk tujuan penipuan.
Penting untuk dicatat bahwa kebijakan ini tidak berlaku bagi semua konten AI. Instagram menjelaskan bahwa penggunaan alat AI untuk sekadar membantu pembuatan konten, seperti pengeditan foto atau penyusunan teks, tidak diwajibkan untuk diberi label. Fokus utama tetap pada profil yang secara keseluruhan merepresentasikan sosok manusia yang tidak nyata.
Di Indonesia, fenomena influencer virtual sebenarnya bukan hal baru. Beberapa brand lokal telah menggunakan maskot digital untuk keperluan pemasaran. Namun, dengan semakin mudahnya akses terhadap teknologi AI generatif, risiko penyalahgunaan identitas untuk tujuan penipuan atau penyebaran disinformasi menjadi ancaman nyata yang perlu diantisipasi oleh regulator dan platform.
Bagi audiens di tanah air, kebijakan ini menjadi pengingat penting untuk meningkatkan literasi digital. Pengguna media sosial kini dituntut lebih kritis dalam memverifikasi profil yang mereka ikuti, terutama yang menawarkan gaya hidup mewah atau produk investasi. Transparansi yang dipaksakan oleh Instagram ini setidaknya memberikan alat bantu bagi pengguna untuk mengenali keaslian sebuah akun.
Adam Mosseri, pimpinan Instagram, menunjukkan keberanian dalam mengambil langkah awal ini. Meskipun kebijakan ini belum mampu sepenuhnya membersihkan platform dari konten AI yang tidak relevan, langkah ini menjadi fondasi penting dalam membangun ekosistem digital yang lebih jujur dan bertanggung jawab di tengah gempuran teknologi generatif.
Ke depan, tantangan terbesar bagi Instagram adalah akurasi sistem pendeteksi. Mengingat kecepatan perkembangan model bahasa dan gambar AI, kemampuan sistem untuk mengidentifikasi profil palsu akan terus diuji. Perusahaan kemungkinan besar akan terus memperbarui algoritma mereka agar mampu mengikuti evolusi teknologi yang semakin canggih.
Tren penggunaan AI dalam media sosial diprediksi akan terus meningkat. Tidak hanya untuk influencer, tetapi juga untuk interaksi pelanggan dan personalisasi konten. Oleh karena itu, kebijakan pelabelan ini kemungkinan akan menjadi standar industri global dalam waktu dekat, memaksa platform lain seperti TikTok atau X untuk mengikuti jejak serupa demi menjaga kepercayaan pengguna.
Pada akhirnya, kehadiran regulasi ini menekankan bahwa teknologi harus melayani manusia, bukan memanipulasi mereka. Dengan adanya kejelasan identitas, pengguna tetap memiliki kendali penuh atas konten yang mereka konsumsi, memastikan bahwa interaksi di ruang digital tetap berpijak pada nilai-nilai otentisitas yang selama ini menjadi inti dari media sosial.