Jaksa kota San Francisco, David Chiu, mengirim surat teguran resmi kepada Apple dan Google, menuntut kedua raksasa teknologi itu menghapus 13 aplikasi face‑swapping dari toko aplikasi mereka. Surat yang dikirim Kamis lalu menyatakan, aplikasi‑aplikasi tersebut dapat menghasilkan gambar telanjang non‑konsensual menggunakan kecerdasan buatan, dan perusahaan‑perusahaan itu harus berhenti mengambil keuntungan dari teknologi berbahaya ini.
Chiu mengatakan, Apple dan Google likely telah mengantongi jutaan dolar dari komisi in‑app payment yang dikenakan pada aplikasi‑aplikasi nudify tersebut. Ia menambahkan, perusahaan‑perusahaan teknologi memiliki tanggung jawab untuk memastikan platform mereka tidak memfasilitasi pelecehan seksual. Surat hukum itu juga menyebutkan, California melarang layanan yang mendukung pembuatan pornografi deepfake, dan perusahaan‑perusahaan tersebut harus memutus hubungan bisnis dengan pengembang aplikasi yang bersangkutan.
Masalah ini bukan kejadian baru. Penelitian Tech Transparency Project pada Januari dan April tahun ini menemukan sekitar 100 aplikasi serupa di App Store dan Play Store, dengan total unduhan mencapai 480 juta kali dan pendapatan kotor sekitar $120 juta. Studi pra‑cetak dari Cornell dan Georgetown pada Mei lalu mengidentifikasi 420 aplikasi face‑swapping di kedua toko aplikasi, dan 70% dari 155 aplikasi yang diuji berhasil membuat deepfake telanjang.
Di Indonesia, fenomena serupa mulai muncul. Beberapa aplikasi face‑swap dengan fitur “hapus pakaian” beredar di toko aplikasi lokal, meskipun jumlahnya masih jauh di bawah skala global. Pakar keamanan siber Indonesia memperingatkan, kemudahan akses ini bisa memicu peningkatan kasus pelecehan daring terhadap perempuan dan anak, terutama karena regulasi di dalam negeri masih terbatas.
Google merespons dengan mengatakan telah menghapus “ratusan” aplikasi yang mengandung fitur nudify karena melanggar kebijakan. Dan Jackson, juru bicara Google, menegaskan, Google Play melarang konten seksual dan terus melakukan pemindaian proaktif untuk menemukan serta menghapus aplikasi berbahaya. Apple hingga kini belum memberikan komentar resmi.
“Membuat gambar intim non‑konsensual adalah tindakan ilegal, berbahaya, dan tidak dapat diterima,” kata Chiu. “Korban mengalami dampak buruk pada reputasi, kesehatan mental, dan bahkan ada yang berpikir untuk bunuh diri.”
Tindakan San Francisco ini menjadi peringatan bagi Apple dan Google bahwa penegak hukum semakin serius mengejar perusahaan teknologi yang membiarkan eksploitasi deepfake. Di saat yang sama, kelompok advokasi teknologi mendesak kedua perusahaan untuk memperbaiki mekanisme moderasi agar aplikasi berbahaya tidak muncul di toko aplikasi sejak awal.
Ke depan, diharapkan akan ada standar moderasi yang lebih ketat dan terkoordinasi antara penyedia platform. Pengguna juga perlu lebih waspada saat mengunggah foto, karena gambar tersebut bisa digunakan tanpa izin. Jika tren ini terus meningkat, regulasi yang lebih tegas mungkin diperlukan, tidak hanya di Amerika Serikat tetapi juga di berbagai negara termasuk Indonesia, untuk menutup celah yang memungkinkan industri deepfake nudification terus berkembang.