Pemerintah Kota San Francisco memerintahkan Apple dan Google untuk segera mencabut puluhan aplikasi 'nudify' dari toko aplikasi mereka karena memfasilitasi pembuatan pornografi deepfake tanpa izin. Perintah tersebut disampaikan langsung oleh Jaksa Kota San Francisco, David Chiu, melalui surat resmi yang menuntut respons dari kedua raksasa teknologi dalam waktu 28 hari.
Aplikasi 'nudify' merupakan perangkat lunak yang mampu mengubah citra digital seseorang secara artifisial sehingga tampak telanjang. Teknologi ini mengeksploitasi foto publik dan memanfaatkan kecerdasan buatan untuk menghasilkan gambar intim palsu yang kerap menyasar perempuan. Chiu menegaskan bahwa Apple dan Google mendapatkan keuntungan finansial dari penjualan layanan tersebut meski regulasi sudah jelas melarangnya.
Ketegasan San Francisco dilandasi oleh undang-undang California yang mengkriminalkan setiap aktivitas yang secara sengaja maupun ceroboh memfasilitasi pembuatan pornografi deepfake non-konsensual. Pada 2025, negara bagian tersebut memperluas cakupan hukum dengan mengizinkan korban menggugat pihak ketiga yang mempermudah penyebaran konten tersebut. Kedua perusahaan dinilai telah lama mengetahui pelanggaran ini namun tetap membiarkan aplikasi bermasalah bertahan di ekosistem mereka.
Surat yang dikirim kantor Chiu menyebutkan bahwa Apple dan Google sudah menerima peringatan sejak hampir setahun lalu terkait pemrosesan pembayaran untuk pembelian ilegal. Tech Transparency Project (TTP) turut melaporkan temuannya pada Januari dan April dengan menyebutkan adanya lusinan aplikasi yang menjajakan gambar intim palsu melalui sistem pembayaran kedua perusahaan. Laporan April menyatakan bahwa Google dan Apple secara aktif mengarahkan pengguna ke aplikasi berbahaya tersebut.
Menurut Chiu, kedua perusahaan kemungkinan meraup jutaan dolar dari biaya transaksi aplikasi penghasil konten eksploitatif. Peringatan itu tidak hanya bersifat administratif, tetapi membuka ancaman sanksi perdata jika Apple dan Google tidak mematuhi aturan dalam waktu yang ditentukan. Sikap pasif kedua perusahaan berbeda dengan janji mereka di masa lalu untuk menjaga keamanan pengguna, khususnya perempuan dan anak perempuan.
Bagi pembaca di Indonesia, isu ini relevan karena aplikasi serupa sudah banyak beredar secara bebas melalui platform web maupun grup media sosial. Meskipun toko aplikasi resmi di Indonesia diawasi oleh Kementerian Komunikasi dan Digital, konten deepfake non-konsensual tetap muncul melalui saluran distribusi alternatif. Perempuan Indonesia, termasuk figur publik, rentan menjadi korban karena minimnya regulasi spesifik yang menjerat penyedia alat kecerdasan buatan.
Indonesia sejauh ini belum memiliki undang-undang menyeluruh yang secara eksplisit mengatur pertanggungjawaban platform atas penyebaran deepfake seksual. UU ITE mencakup pencemaran nama baik dan penyebaran konten asusila, namun belum menyentuh kewajiban perusahaan teknologi untuk memantau atau melarang aplikasi penghasil citra palsu. Tanpa tekanan serupa dari otoritas, pengembang lokal maupun asing dapat terus beroperasi dengan risiko hukum yang rendah.
Dampak lebih luas dari kasus ini mencakup kepercayaan publik terhadap ekosistem aplikasi yang selama ini dianggap aman. Jika Apple dan Google terbukti membiarkan eksploitasi demi pendapatan, preseden hukum di California dapat memicu tuntutan serupa di yurisdiksi lain, termasuk Asia. Hal ini berpotensi mengubah kebijakan kurasi aplikasi secara global, termasuk di toko aplikasi yang diakses pengguna Indonesia.
'Apple dan Google mengambil untung dari aplikasi yang mengeksploitasi perempuan dan anak perempuan melalui pembuatan deepfake intim tanpa izin,' ujar David Chiu dalam pernyataannya. 'Meski mereka memutus kerja sama dengan beberapa aplikasi bermasalah, kedua perusahaan punya kewajiban proaktif dan waspada untuk mencegah pelecehan seksual.' Pernyataan tersebut menekankan bahwa tanggung jawab moral perusahaan teknologi tidak boleh diukur dari penghapusan parsial.
Chiu juga menyampaikan kepada Wired bahwa kedua perusahaan diduga kuat mengantongi jutaan dolar dari biaya layanan aplikasi tersebut. Angka ini memperlihatkan besarnya insentif finansial yang membuat raksasa teknologi enggan bertindak cepat. Surat resmi tersebut memberi batas waktu 28 hari sebelum pencarian sanksi perdata dilanjutkan.
Ke depan, Apple dan Google kemungkinan akan melakukan pembersihan menyeluruh terhadap kategori aplikasi pengubah citra intim untuk menghindari gugatan. Tren pengawasan terhadap alat kecerdasan buatan generatif diprediksi makin ketat seiring meningkatnya kesadaran akan bahaya deepfake. Regulator di berbagai negara, termasuk Indonesia, dapat menjadikan langkah San Francisco sebagai rujukan dalam menyusun kebijakan perlindungan warga dari eksploitasi digital.
Penting bagi pengguna di Tanah Air untuk menyadari bahwa foto di media sosial dapat disalahgunakan oleh algoritma tanpa sepengetahuan mereka. Pendidikan literasi digital dan dorongan kepada platform lokal untuk bertindak menjadi kunci mencegah meluasnya korban. Sinergi antara pemerintah, komunitas, dan perusahaan teknologi adalah syarat agar ruang digital tidak berubah menjadi sarana pelecehan massal.