Kekhawatiran akan ancaman eksistensial kecerdasan buatan (AI) yang digaungkan oleh para periset di laboratorium raksasa dunia kini memicu perdebatan sengit. Di tengah kepanikan mengenai potensi teknologi superinteligensi yang mampu melampaui kemampuan manusia, Romo Paolo Benanti, seorang teolog sekaligus penasihat AI bagi Gereja Katolik, justru menyoroti bahaya yang lebih nyata di depan mata: monopoli kekuasaan oleh sekelompok perusahaan teknologi.
Benanti menegaskan bahwa narasi mengenai bahaya superinteligensi sering kali menjadi taktik pengalihan agar publik tidak mempertanyakan bagaimana perusahaan-perusahaan ini mengendalikan pengembangan AI. Dengan menciptakan kerumitan teknologi yang seolah hanya bisa dipahami oleh segelintir elit, laboratorium-laboratorium besar tersebut secara sengaja mengucilkan masyarakat dari ruang diskusi publik yang krusial.
Persaingan sengit antara Amerika Serikat dan Tiongkok dalam perlombaan AI memang menjadi pemicu utama. Namun, Benanti memperingatkan bahwa ketika sekelompok kecil korporasi memegang kendali penuh atas aturan main industri, fenomena tersebut tidak lain adalah sebuah bentuk kartel. Mereka menggunakan narasi ketakutan untuk memperkuat posisi pasar dan menjaga dominasi ekonomi mereka, alih-alih berfokus pada etika yang transparan.
Di balik retorika tentang keamanan, terdapat insentif finansial yang masif. Perusahaan seperti OpenAI dan Anthropic, meski menyerukan perlambatan pengembangan, tetap berada dalam tekanan untuk melakukan penawaran saham perdana (IPO) dan memenangkan persaingan pasar bernilai miliaran dolar. Hal ini menciptakan konflik kepentingan yang nyata, di mana standar keamanan justru dirancang oleh pihak yang paling diuntungkan oleh teknologi itu sendiri.
Benanti secara tegas menolak pendewaan terhadap AI. Ia mengingatkan bahwa AI hanyalah hasil dari komputasi statistik, bukan entitas ketuhanan yang memiliki kesadaran. Menganggap AI sebagai sosok yang maha tahu justru menyesatkan diskursus publik. Ia menegaskan bahwa etika tidak boleh menjadi properti eksklusif dewan direksi perusahaan, melainkan harus lahir dari debat demokratis di ruang publik.
Bagi Indonesia, isu ini memiliki urgensi tersendiri. Sebagai negara dengan adopsi teknologi digital yang masif, ketergantungan kita pada model AI yang dikembangkan oleh segelintir raksasa teknologi global menempatkan posisi tawar Indonesia dalam posisi rentan. Tanpa regulasi yang berdaulat, kita berisiko hanya menjadi konsumen dari standar etika dan bias yang ditetapkan oleh perusahaan asing tersebut.
Pemerintah Indonesia saat ini memang tengah merancang panduan etika AI, namun tantangannya jauh lebih besar daripada sekadar aturan administratif. Kita memerlukan mekanisme pengawasan yang mampu menyeimbangkan inovasi dengan kontrol manusia. Jika laboratorium global saja bisa dituduh berpraktik kartel, maka pengembang lokal dan kebijakan nasional harus memastikan agar teknologi tidak menjadi alat dominasi yang mematikan kreativitas domestik.
Kritik Benanti terhadap technocratic logic—logika efisiensi yang menganggap manusia sebagai proyek untuk dioptimasi—sangat relevan dengan konteks sosial di Indonesia. Kita harus memastikan bahwa pengembangan AI di dalam negeri tetap berlandaskan pada kemaslahatan publik, bukan sekadar metrik efisiensi yang dingin dan dehumanisasi.
Langkah ke depan membutuhkan kehadiran 'rem dan kemudi' yang kuat. Pengawasan pihak ketiga yang independen, sebagaimana disarankan oleh banyak pakar, harus menjadi standar wajib sebelum model AI dirilis ke publik. Hal ini guna mencegah terjadinya penyalahgunaan data atau manipulasi algoritma yang tidak terkendali oleh pengguna di berbagai negara, termasuk Indonesia.
Pada akhirnya, peran institusi agama dan masyarakat sipil dalam debat teknologi akan semakin krusial. Mereka bertindak sebagai pengingat bahwa di balik kode-kode pemrograman yang rumit, terdapat martabat manusia yang harus tetap dijaga. Menjaga kendali manusia atas mesin bukanlah soal menolak kemajuan, melainkan memastikan bahwa teknologi tetap menjadi alat yang melayani kemanusiaan, bukan sebaliknya.