Elon Musk pertama kali menyerukan regulasi AI proaktif di hadapan para gubernur AS pada Juli 2017. Ia mengingatkan bahwa menunggu bahaya nyata muncul baru membuat aturan akan terlambat. Saat itu, Musk sudah menanamkan dana 38 juta dolar ke OpenAI dan memiliki saham di minimal dua perusahaan AI lain. Peringatan ia justru datang setelah bertahun-tahun ia mengeluarkan pernyataan dramatis: AI berpotensi lebih berbahaya dari nuklir, mirip Terminator, hingga "memanggil setan".
Tidak hanya Musk. Sundar Pichai, CEO Alphabet, menuliskan editorial di Financial Times pada Januari 2020 menegaskan AI "terlalu penting untuk tidak diatur". Ia menyoroti risiko pengenalan wajah yang saat itu memanas. Satu tahun sebelumnya, Brad Smith dari Microsoft sudah membuka suara serupa di Brookings Institution, mendesak pemerintah membuat "lantai tanggung jawab" agar persaingan pasar tidak menurunkan standar etika. Kedua pernyataan itu muncul di tengah kontroversi kerja sama teknologi pengenalan wajah dengan aparat imigrasi AS.
Sejarah peringatan soal mesin cerdas justru sudah bermula jauh sebelum era komputasi modern. Pada 1863, Samuel Butler — terinspirasi teori evolusi Darwin — memperingatkan mesin yang mereplikasi diri bisa menggantikan manusia. Buku fiksi ilmiahnya Erewhon (1872) menggambarkan masyarakat yang melarang mesin demi kelangsungan hidup. Alan Turing pun pada 1951 memprediksi mesin abadi akan melampaui kekuatan manusia dan akhirnya "mengambil alih kendali".
Pada era digital, Bill Joy — cofounder Sun Microsystems — menulis esai legendaris di Wired tahun 2000. Ia membandingkan robot mereplikasi diri dengan senjata nuklir, tapi lebih berbahaya karena dikembangkan di bawah "sistem kapitalisme global tanpa tantangan", bukan laboratorium pemerintah yang ketat. Sembilan tahun kemudian, Eric Horvitz dari Microsoft mengumpulkan peneliti terkemuka untuk merumuskan kebijakan yang membatasi perilaku sistem otonom. Ia kini menjabat Chief Scientific Officer Microsoft.
Mark Zuckerberg ikut bersuara pada Maret 2018, pasca skandal Cambridge Analytica. Ia mengakui "tidak yakin kita seharusnya tidak diatur", meski fokus utamanya pada moderasi konten, bukan AI generatif. Tahun berikutnya ia mendorong peran regulator yang lebih aktif di internet. Posisi ini kontras dengan sikap Meta yang cenderung menolak intervensi pemerintah pada bisnis intinya.
Lonjakan AI generatif awal 2023 memicu gelombang baru. Maret 2023, Musk dan ratusan peneliti menandatangani surat terbuka dari Future of Life Institute menuntut jeda enam bulan pada eksperimen AI raksasa. Jika tidak, pemerintah harus menerapkan moratorium. Dua minggu kemudian, Musk justru meluncurkan xAI, perusahaan AI barunya. Dua tahun kemudian, ia justru memimpin efisiensi birokrasi federal lewat DOGE, bukan membantu regulasi.
Mei 2023, Sam Altman hadir di Senat AS untuk hearing AI. CEO OpenAI menyetujui pembentukan badan baru yang mengeluarkan lisensi untuk model AI tingkat tinggi. Ia juga mendukung audit independen dan standar keamanan. Sikap kooperatif ini berbeda dengan Musk yang cenderung konfrontatif. Namun, kritik muncul: apakah permintaan regulasi dari pelaku pasar justru berfungsi sebagai barrier to entry bagi pesaing kecil?
Pola ini menimbulkan skeptisisme akademisi dan aktivis hak digital. Para eksekutif yang meminta aturan justru mereka yang paling untung jika AI berkembang pesat. Regulasi yang mereka usung sering kali berbentuk lisensi, audit, atau badan pengawas — instrumen yang perusahaan besar seperti Google, Microsoft, dan OpenAI sanggup biayai, tapi membebani startup. Fenomena "regulatory capture" ini sudah dikenal dalam ekonomi politik.
Di Indonesia, konteksnya berbeda namun urgensi serupa. Kominfo telah menerbitkan Peraturan Menteri Nomor 5 Tahun 2024 tentang Etika AI, namun bersifat voluntari dan non-binding. Sementara adopsi AI generatif di sektor publik dan privat mempercepat — dari chatbot layanan publik hingga sistem scoring kredit. Tanpa kerangka hukum yang tegas, risiko bias algoritma, kebocoran data, dan diskriminasi otomatis mengancam warga negara.
Perbandingan dengan UE yang sudah mengesahkan AI Act menunjukkan keterlambatan. Eropa mengklasifikasikan AI berdasarkan tingkat risiko dan melarang praktik tertentu seperti social scoring. Indonesia masih bergerak di zona abu-abu: ada prinsip etika, tapi tidak ada sanksi hukum bagi pelanggar. Para pengusaha teknologi lokal justru butuh kepastian hukum untuk berinvestasi aman, bukan kebebasan total.
Ke depan, perdebatan akan bergeser dari "apakah perlu regulasi" ke "siapa yang menulis aturannya". Jika dibiarkan pada para inkumbennya, regulasi berisiko melindungi posisi dominan mereka. Melibatkan akademisi, masyarakat sipil, dan perwakilan kelompok rentan — termasuk di Indonesia — bukan sekadar formalitas, tapi prasyarat agar AI melayani kepentingan publik, bukan hanya margin keuntungan korporasi.