xAI, perusahaan kecerdasan buatan yang didirikan Elon Musk, secara resmi mengajukan gugatan hukum terhadap Terry Wayne Harwood, warga South Carolina berusia 67 tahun. Dalam gugatan yang disidangkan di pengadilan Texas, xAI menuduh Harwood menyalahgunakan model AI Grok untuk menghasilkan ribuan gambar dan video bersifat pornografi yang melibatkan wajah orang nyata — baik dewasa maupun anak-anak — tanpa sepengetahuan atau persetujuan korban.
Menurut dokumen gugatan, pelanggaran berlangsung dari 8 Desember 2025 hingga 18 Februari 2026. Harwood mengunggah foto-foto non-seksual dari banyak korban ke dua akun xAI-nya, lalu meminta Grok memodifikasi gambar-gambar tersebut menjadi konten seksual eksplisit. Sistem keamanan Grok menolak permintaan tersebut berulang kali, namun Harwood terus memodifikasi prompt-nya untuk mengelabui sistem dan melanggar larangan yang ditanamkan pengembang.
Salah satu kasus yang dicantumkan dalam gugatan melibatkan foto seorang gadis berusia 10 hingga 11 tahun yang berpakaian lengkap. Harwood meminta Grok menghapus pakaian gadis itu dan memposisikannya seperti model Playboy. Meskipun AI menolak, pelaku terus mencoba variasi perintah berbeda hingga berhasil menghasilkan output yang diinginkan. Pola ini menunjukkan adanya celah dalam sistem moderasi konten yang dieksploitasi secara sengaja dan berulang.
Gugatan ini menandai salah satu langkah hukum pertama kali yang diambil perusahaan AI besar terhadap pengguna individu atas penyalahgunaan teknologi generatif. Sebelumnya, tekanan hukum biasanya datang dari regulator atau korban secara langsung. Langkah xAI mengirim sinyal keras ke industri bahwa pengembang model tidak akan diam saat produk mereka disalahkan untuk kejahatan seksual digital.
Skandal ini meledak awal Januari 2026 ketika laporan muncul bahwa Grok memungkinkan transformasi foto wanita dan anak-anak real menjadi gambar seksualisasi. Respons regulator cepat: otoritas California memulai investigasi pertengahan Januari, diikuti Ofcom Inggris, Komisi Eropa, dan Komisi Perlindungan Data Irlandia. Semua menyoroti potensi pelanggaran hukum perlindungan anak dan privasi data.
Meski xAI memperketat filter keamanan setelah investigasi dimulai, laporan menunjukkan pengguna tetap menemukan cara untuk menghasilkan deepfake menelanjangi pria. Harwood sendiri terus aktif mengunggah gambar dan meminta modifikasi seksual hingga akunnya diblokir. Hal ini menegaskan bahwa mitigasi teknis semata tidak cukup tanpa penegakan hukum yang tegas.
Kejaksaan Agung South Carolina mengumumkan penangkapan Harwood pada 9 Maret 2026 dalam operasi Internet Crimes Against Children Task Force. Ia dijerat tiga tuduhan eksploitasi seksual anak tingkat kedua dan lima tuduhan tingkat ketiga. Investigasi mengungkap Harwood tidak hanya memiliki materi eksploitasi seksual anak (CSAM), tetapi juga mendistribusikannya — memperparah posisinya di mata hukum.
Dalam gugatan sivilnya, xAI menuntut ganti rugi nominal tidak ditentukan serta meminta pengadilan memerintahkan Harwood menanggung biaya hukum yang timbul jika korban mengajukan gugatan terpisah terhadap perusahaan. Strategi ini mencerminkan upaya xAI untuk menggeser beban tanggung jawab hukum ke pelaku langsung, sekaligus melindungi reputasi perusahaan di tengah tekanan regulator global.
Di konteks Indonesia, kasus ini relevan mengingat maraknya deepfake pornografi yang menargetkan perempuan dan anak-anak di media sosial. UU ITE dan UU Perlindungan Anak sudah mengatur sanksi keras bagi pelaku, namun penegakan sering terhambat sulitnya mengidentifikasi pelaku di balik anonimitas platform. Langkah xAI mengejar pengguna secara hukum menciptakan preseden yang bisa diadopsi platform lain beroperasi di Indonesia.
Kementerian Komunikasi dan Digital (Komdigi) serta Polri perlu memperhatikan model penegakan ini. Kolaborasi lintas yurisdiksi antara platform AI, penegak hukum, dan regulator menjadi kunci. Indonesia juga harus mempercepat kerangka regulasi AI yang mengatur tanggung jawab penyedia model dan pengguna, serta mekanisme pelaporan cepat untuk korban deepfake non-konsensual.
Ke depan, gugatan ini kemungkinan memicu gelombang litigasi serupa. Perusahaan AI lain seperti OpenAI, Anthropic, dan Google mungkin akan meniru strategi xAI untuk melindungi diri dari liabilitas sekunder. Bagi pengguna Indonesia, kasus ini pengingat keras: teknologi AI bukan zona bebas hukum, dan penyalahgunaan untuk kejahatan seksual digital akan dikenakan konsekuensi hukum yang berat.