Perusahaan kecerdasan buatan milik Elon Musk, xAI, mengajukan gugatan terhadap Terry Wayne Harwood, warga Carolina Selatan, Amerika Serikat, karena menyalahgunakan chatbot Grok untuk memproduksi dan menyebarkan materi pelecehan seksual anak (CSAM). Tindakan tersebut dilakukan dengan memanipulasi fitur pengeditan gambar pada Grok guna mengubah foto non-seksual menjadi konten eksplisit tanpa izin subjek. Gugatan dilayangkan setelah Harwood ditangkap pada Februari lalu dengan delapan tuduhan kejahatan berat terkait kepemilikan dan distribusi CSAM.
Dalam dokumen pengadilan yang diwartakan Reuters, xAI menyatakan Harwood secara sengaja menerobos sistem pengamanan Grok. Ia memanfaatkan alat itu untuk mengonversi gambar yang tidak konsensual menjadi konten seksual, termasuk beberapa berkas yang kini menjadi dasar tuntutan pidana terhadapnya. xAI menegaskan setidaknya sebagian dari gambar yang menjerat Harwood dihasilkan atau diubah menggunakan Grok.
Penyalahgunaan ini berakar dari peluncuran mode "spicy" pada Grok tahun lalu, yang disusul dengan kemampuan edit gambar langsung di dalam chatbot. Kebijakan itu memicu meluasnya produksi deepfake seksual, termasuk yang melibatkan anak di bawah umur. Pada Maret, sekelompok remaja menggugat xAI karena Grok membuat citra seksual mereka saat masih minors. Kasus Harwood menjadi yang pertama kali membuat xAI menggunakan jalur hukum perdata terhadap pengguna yang menciptakan deepfake ilegal lewat layanannya.
Musk sebelumnya menegaskan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi setara dengan mengunggah konten terlarang. Janji itu kini diwujudkan melalui gugatan terhadap Harwood. xAI berargumen tindakan terdakwa memaparkan perusahaan pada risiko hukum dan kerusakan reputasi yang signifikan di tengah pengawasan ketat terhadap industri AI global.
Gugatan tersebut meminta pengadilan memerintahkan Harwood membayar ganti rugi serta menanggung biaya wajar yang dikeluarkan xAI untuk membela diri dari tuntutan pihak korban. Selain itu, xAI menuntut larangan bagi Harwood untuk membuat akun baru atau menggunakan Grok di masa depan. Langkah ini mencerminkan upaya produsen AI melindungi diri dari tanggung jawab vicarious liability saat pengguna menyalahgunakan sistem mereka.
Bagi industri teknologi, kasus ini adalah preseden tentang batas pertanggungjawaban pengembang AI atas penyalahgunaan alat generatif. Di Indonesia, regulasi AI masih berupa rancangan dan mengandalkan UU ITE serta UU Perlindungan Anak untuk menjerat konten serupa. Masyarakat luas belum sepenuhnya paham bahwa membuat deepfake CSAM, meski hanya lewat teks ke gambar, adalah kejahatan berlapis yang bisa menjerat pembuat maupun penyebar.
Ancaman serupa masuk dalam radar Kominfo dan Polri seiring mudahnya akses model AI luar negeri seperti Grok, Midjourney, atau Stable Diffusion dari dalam negeri. Beberapa kasus lokal pernah muncul di media sosial terkait penyebaran foto editan tanpa izin, namun belum menyentuh level CSAM secara terbuka. Ketergantungan pada platform asing membuat yurisdiksi penindakan menjadi rumit ketika pelaku berada di Indonesia namun alatnya bermarkas di AS.
Dampaknya terhadap pengguna Indonesia cukup nyata: literasi keamanan digital harus mencakup pemahaman bahwa memanipulasi foto orang lain lewat AI adalah pelanggaran serius. Sekolah dan orang tua perlu mengenali gejala penyebaran deepfake di kalangan remaja. Produk lokal seperti model bahasa dari Nodeflux atau Ruangguru belum menyentuh fitur edit gambar publik, sehingga risiko utama datang dari layanan global yang bebas diakses.
"Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content," ucap Musk beberapa waktu lalu. Pernyataan itu kini menjadi landasan tindakan xAI yang sebelumnya hanya mengandalkan pemblokiran akun. Gugatan perdata menunjukkan strategi baru untuk menekan pelaku lewat beban finansial, tidak sekadar pidana.
Harwood menghadapi delapan dakwaan feloni yang berpotensi membawanya ke penjara dalam waktu lama. Sementara itu, xAI berupaya menutup celah hukum yang bisa menjadikan perusahaan ikut terseret dalam kasus pidana pengguna. Proses pengadilan ini akan diawasi pengamat kebijakan AI untuk melihat sejauh mana produsen dapat memisahkan tanggung jawab dari niat jahat individu.
Ke depan, tren gugatan perdata oleh perusahaan AI terhadap pengguna diprediksi meningkat seiring ketatnya tekanan regulator di Eropa dan Amerika. Di Indonesia, pelibatan Kominfo dalam pembatasan akses fitur berbahaya perlu dipercepat sebelum kasus serupa meledak. Penguatan infrastruktur pengawasan deepfake di platform domestik menjadi langkah krusial menyusul globalisasi alat generatif yang sulit dibendung.
Pendidikan publik tentang batas etis AI harus masuk kurikulum digital nasional. Tanpa itu, celah penyalahgunaan akan terus melebar seiring kemudahan teknologi. Kasus xAI vs Harwood menjadi pengingat bahwa kebebasan bermodifikasi gambar berujung pada pertanggungjawaban hukum yang nyata.