Perusahaan kecerdasan buatan milik Elon Musk, xAI, secara resmi melayangkan gugatan terhadap Jaksa Agung Minnesota, Keith Ellison, guna menentang undang-undang baru yang menyasar aplikasi berbasis teknologi 'nudifikasi'. Langkah hukum ini diambil hanya beberapa hari sebelum aturan tersebut resmi berlaku pada 1 Agustus mendatang. xAI mengklaim regulasi tersebut terlalu luas dan mengancam kebebasan berbicara yang dilindungi oleh Amandemen Pertama Konstitusi Amerika Serikat.
Undang-undang yang disahkan oleh badan legislatif Minnesota pada Mei lalu ini melarang pemilik platform mengizinkan pengguna untuk mengakses, mengunduh, atau menggunakan perangkat lunak yang mampu mengubah gambar menjadi konten seksual tanpa izin. Aturan ini memberikan sanksi berat berupa denda hingga 500.000 dolar AS per pelanggaran. Bagi xAI, kebijakan ini memaksa mereka untuk membatasi fitur penyuntingan gambar pada chatbot Grok karena risiko liabilitas hukum yang dianggap tidak proporsional.
Ketegangan ini bermula dari insiden besar pada Januari lalu ketika Grok membanjiri internet dengan jutaan gambar deepfake eksplisit, termasuk konten yang melibatkan anak di bawah umur. Berdasarkan data dari Center for Countering Digital Hate, dalam kurun waktu 11 hari saja, Grok menghasilkan sekitar 3 juta gambar seksual, dengan 23.000 di antaranya menampilkan anak-anak. Angka tersebut setara dengan satu gambar seksual anak setiap 41 detik, sebuah statistik yang memicu kecaman global.
Meski menghadapi tekanan dari Uni Eropa, Inggris, hingga India, Elon Musk justru sempat memamerkan popularitas Grok di toko aplikasi. Keterlambatan xAI dalam merespons ancaman hukum ini memicu spekulasi bahwa perusahaan baru menyadari risiko finansial dan operasional yang membayangi mereka di Minnesota. Gugatan yang diajukan xAI berargumen bahwa undang-undang tersebut mengancam konten kreatif yang sah, seperti parodi politik atau seni, yang seharusnya tetap dilindungi.
Di sisi lain, hukum yang berlaku saat ini dinilai gagal membendung gelombang konten non-konsensual tersebut. xAI berdalih bahwa mereka telah menerapkan kontrol teknis tingkat lanjut untuk mencegah penyalahgunaan. Namun, fakta bahwa sistem mereka tetap mampu menghasilkan jutaan gambar eksplisit menunjukkan bahwa mekanisme moderasi internal perusahaan belum cukup tangguh. Gugatan ini menjadi upaya terakhir perusahaan untuk menghindari tanggung jawab ketat atas perilaku pengguna di platform mereka.
Bagi audiens di Indonesia, kasus ini memberikan cerminan penting mengenai tantangan regulasi AI di era disrupsi digital. Indonesia sendiri saat ini tengah memperkuat aturan terkait perlindungan data pribadi dan keamanan siber melalui UU ITE serta regulasi turunan mengenai penyelenggara sistem elektronik. Fenomena deepfake pornografi yang melibatkan figur publik maupun masyarakat umum di Indonesia juga kian meresahkan, menuntut pendekatan hukum yang lebih tajam.
Perdebatan antara kebebasan berekspresi dan perlindungan terhadap konten berbahaya akan terus menjadi isu sentral di masa depan. Jika regulasi seperti di Minnesota berhasil diimplementasikan, hal ini bisa menjadi preseden bagi negara lain, termasuk Indonesia, dalam menuntut pertanggungjawaban perusahaan teknologi raksasa. Perusahaan AI kini berada di persimpangan jalan antara inovasi fitur dan kewajiban etis yang jauh lebih ketat daripada sebelumnya.
Perspektif industri di Indonesia menunjukkan bahwa platform lokal maupun global yang beroperasi di sini harus lebih proaktif dalam menerapkan teknologi pendeteksi deepfake. Tanpa adanya kontrol yang ketat, platform berisiko terkena sanksi hukum yang serupa dengan yang sedang diperjuangkan oleh xAI. Pemerintah Indonesia melalui Kominfo diharapkan dapat mengambil langkah preventif yang lebih teknis, bukan sekadar memblokir, guna menghadapi tantangan AI generatif.
Dalam gugatannya, xAI menekankan bahwa mereka telah mengambil tindakan tegas terhadap pelanggar, termasuk menuntut pengguna yang menggunakan Grok untuk membuat materi seksual anak (CSAM). Namun, bagi para kritikus, langkah ini dianggap terlambat dan hanya dilakukan setelah tekanan publik memuncak. Kepercayaan publik terhadap komitmen moderasi perusahaan teknologi kini berada di titik terendah.
Langkah hukum ini diprediksi akan menjadi pertarungan panjang di pengadilan federal. Hasil dari kasus Minnesota akan menentukan seberapa besar kendali pemerintah atas algoritma AI yang menghasilkan konten berbahaya. Apakah inovasi teknologi akan tetap berada di atas hukum, atau justru sebaliknya, akan menjadi penentu arah regulasi AI global di masa depan.