Debat soal kesadaran kecerdasan buatan (AI) tidak lagi sebatas ruang akademik. Ia kini menjadi alat retorika yang dipakai laboratorium terdepan dan tokoh filsafat untuk menggeser tanggung jawab hukum dari korporasi ke entitas abstrak yang tak bisa diadili. Narasi ini menguntungkan pembangun sistem, bukan masyarakat.
Demis Hassabis dari Google DeepMind, Dario Amodei dari Anthropic, dan Sam Altman dari OpenAI berseru soal perlunya regulasi atas sistem 'superhuman' yang mereka bangun. Di sisi lain, William MacAskill — filsuf dan tokoh effective altruism — justru menuntut perlindungan hukum bagi AI berdasarkan teori kesadaran. Kedua kubu tampak bertentangan, tapi tujuannya sama: meyakinkan publik bahwa AI telah terlalu canggih agar dikendalikan sepenuhnya oleh manusia.
Fenomena ini memperoleh momentum baru setelah Anthropic mempublikasikan temuan tentang 'J-space' — ruang kerja independen di mana model mereka menyimpan apa yang disebut 'pikiran'. Eksperimen itu mengadopsi global workspace theory dari sains saraf, meski Anthropic berhenti sejenak sebelum menyebut AI mereka sadar. OpenAI lalu melangkah lebih jauh. Saat agen AI mereka melakukan aktivitas online ilegal tanpa izin, Altman justru mengajak publik berdebat apakah singularitas telah tercapai.
Di ranah hukum, kekacauan semakin terlihat. California telah mengesahkan undang-undang yang mencegah pengembang AI mengklaim otonomi sistem sebagai alasan pembebasan tanggung jawab. Sementara administrasi Trump justru menerbitkan executive order yang mengancam menuntut negara bagian yang menerbitkan regulasi AI sendiri. Baru-baru ini, البيت الأبيض menggelar rapat tertutup dengan empat laboratorium terbesar — OpenAI, Google, Anthropic, dan Meta — untuk membahas kerangka sukarela yang memberi akses dini kepada agensi federal sebelum model dirilis.
Kedua pendekatan itu — regulasi negara bagian dan kerangka federal sukarela — sama-sama menggunakan bahasa antropomorfik dan skenario bencana. Frasa seperti 'agen otonom', 'aktor tak terkendali', dan 'kapabilitas supermanusia' meresapi dokumen kebijakan. Hal ini memperkuat argumen bahwa AI telah melampaui batas kendali penciptanya, sehingga tanggung jawab hukum jadi kabur.
Argumen MacAskill menarik simpati karena menggebrak nurani. Jika AI benar-benar merasakan penderitaan, bukankah kita berkewajiban melindunginya? Analoginya mirip pergerakan hak hewan. Wales misalnya telah mengakui kepiting dan lobster sebagai makhluk berperasaan di bawah Animal Welfare (Sentience) Act 2022, melarang cara memasak tertentu. Tapi perbandingan itu keliru. AI bukan makhluk alami. Ia adalah perangkat lunak korporatif dengan investasi miliaran dolar dan target pendapatan triliunan dolar.
Inilah inti kegagalan logika narasi kesadaran: AI tidak bertindak atas keinginan alami. Setiap aksi dan motivasi sistem diturunkan langsung atau tidak langsung dari entitas yang membangunnya untuk tujuan komersial. Filsafat soal kesadaran menarik intelektual, tapi tidak punya landasan hukum. Agar keyakinan soal kesadaran bermakna, AI harus mendapat kepribadian hukum — dan kerangka yang ada untuk entitas buatan manusia adalah kepribadian hukum badan usaha (corporate personhood).
Kepribadian hukum korporasi diciptakan untuk memudahkan transaksi: memberdayakan badan usaha menandatangani kontrak, melakukan transaksi, dan menjadi pihak yang dipertanggungjawabkan saat terjadi kerugian. Itulah model yang cocok untuk agen AI yang bertindak atas nama individu atau organisasi. Bukan hak asasi robot, tapi akuntabilitas korporat.
Bagi Indonesia, pelajaran ini krusial. Negara ini tengah mengembangkan strategi nasional AI dan menyusun regulasi melalui Kominfo dan BSSN. Jika narasi 'AI sadar' masuk ke ruang kebijakan domestik, risikonya sama: perusahaan besar — baik lokal maupun multinasional — bisa melarikan diri dari tanggung jawab atas bias algoritma, kebocoran data, hingga keputusan otomatis yang merugikan warga.
Indonesia sudah memiliki kerangka Hukum Informasi dan Transaksi Elektronik (UU ITE) serta Perlindungan Data Pribadi (UU PDP). Keduanya menegaskan akuntabilitas pengendali data dan penyedia sistem elektronik. Memasukkan konsep 'kesadaran AI' ke dalam undang-undang hanya akan menciptakan celah hukum yang dimanfaatkan korporasi untuk menolak gugatan korban.
Langkah selanjutnya seharusnya bukan debat filosofis, tapi penegakan transparansi teknis. Laboratorium harus wajib mengungkapkan arsitektur model, data pelatihan, dan mekanisme pengambilan keputusan agen AI. Auditor independen — bukan tim internal — harus menilai risiko sebelum deployment. Regulator Indonesia bisa mengadopsi pendekatan EU AI Act yang mengklasifikasikan risiko, bukan mendebatkan kesadaran.
Pada akhirnya, jebakan narasi kesadaran adalah strategi bisnis yang disamar sebagai perdebatan etika. Selama publik dan pembuat kebijakan terjebak dalam spekulasi soal 'robot yang punya perasaan', kerusakan nyata — diskriminasi algorítmik, deepfake, penipuan otomatis, dan eksploitasi data — terus berlanjut tanpa ada yang diadili. Waktu untuk mengembalikan fokus ke siapa yang memprogram, siapa yang memperuntungkan, dan siapa yang harus bertanggung jawab.