Sejumlah pakar kecerdasan buatan (AI) dari perusahaan teknologi raksasa seperti OpenAI, Google DeepMind, dan Anthropic melontarkan peringatan bernada alarmis terkait pengembangan superintelligence. Dalam serangkaian wawancara yang dikumpulkan oleh Palisade Research melalui platform frominside.ai, para ilmuwan ini menyatakan kekhawatiran mendalam bahwa teknologi yang sedang mereka bangun dapat memicu kepunahan manusia.
Geoffrey Irving, mantan peneliti di OpenAI dan Google DeepMind, secara blak-blakan menyebut probabilitas kepunahan akibat AI setara dengan lemparan koin. Pandangan ini tidak berdiri sendiri, mengingat Neel Nanda, seorang ilmuwan riset di Google DeepMind, juga mengamini bahwa risiko kepunahan manusia akibat AI berada di angka minimal 10 persen. Angka tersebut dianggap sangat tinggi dan mengkhawatirkan bagi sebuah risiko eksistensial.
Narasi ketakutan ini muncul di tengah perlombaan global pengembangan AI generatif yang semakin agresif. Selama ini, debat mengenai bahaya AI sering kali dianggap sebagai spekulasi fiksi ilmiah atau sekadar strategi pemasaran untuk menarik perhatian publik. Namun, kesaksian dari orang-orang yang berada di garis depan pengembangan teknologi ini memberikan dimensi baru yang jauh lebih serius dan nyata.
Daniel Kokotajilo, mantan peneliti OpenAI, menekankan bahwa superintelligence akan memiliki kekuatan layaknya entitas ilahi. Masalah utamanya adalah ketiadaan mekanisme kontrol yang mumpuni untuk menjinakkan kekuatan tersebut. Menurutnya, kegagalan untuk mengendalikan AI super cerdas bukan lagi sekadar potensi, melainkan ancaman nyata yang tidak boleh dibiarkan terjadi.
Di balik peringatan tersebut, muncul dilema moral yang menghantui para peneliti. Mary Phuong dari Google secara terbuka mengakui bahwa publik harus skeptis terhadap pernyataan para peneliti karena mereka digaji oleh perusahaan pengembang AI. Pengakuan ini menyoroti konflik kepentingan yang terjadi di dalam industri, di mana ambisi perusahaan sering kali berbenturan dengan tanggung jawab etis terhadap keselamatan umat manusia.
Neel Nanda sendiri memberikan alasan mengapa ia tetap bertahan di industri ini. Ia merasa bahwa dengan bekerja di dalam sistem, ia memiliki kesempatan lebih besar untuk mengurangi risiko eksistensial tersebut daripada harus keluar. Menurutnya, perusahaan tidak akan berhenti mengembangkan sistem hanya karena satu atau dua orang peneliti memilih untuk mengundurkan diri.
Bagi masyarakat Indonesia, fenomena ini menjadi pengingat penting bahwa adopsi teknologi AI harus dibarengi dengan literasi risiko yang kritis. Indonesia saat ini menjadi salah satu pasar pengguna AI yang sangat aktif, namun diskusi mengenai tata kelola (governance) dan keamanan AI tingkat tinggi masih sangat minim. Ketergantungan kita pada model AI global buatan perusahaan Amerika Serikat membuat Indonesia berada di posisi pasif terhadap risiko-risiko yang didebatkan oleh para ahli tersebut.
Regulator di Indonesia, seperti Kementerian Kominfo, perlu mulai memikirkan kerangka kerja etika AI yang tidak hanya fokus pada perlindungan data pribadi, tetapi juga mengantisipasi dampak jangka panjang dari model AI yang semakin otonom. Kita tidak bisa hanya menjadi konsumen teknologi tanpa memahami potensi risiko sistemik yang dibawa oleh model-model canggih tersebut.
Selain itu, industri teknologi lokal perlu didorong untuk tidak hanya fokus pada implementasi aplikasi, tetapi juga membangun riset mengenai keamanan AI. Kolaborasi antara akademisi dan pelaku industri di tanah air sangat diperlukan untuk menciptakan ekosistem AI yang lebih aman dan terukur.
Kesenjangan antara kecepatan inovasi dan kapasitas keamanan menjadi tantangan utama yang belum terpecahkan. Hingga saat ini, belum ada solusi tunggal atau konsensus global yang disepakati untuk menjamin bahwa superintelligence akan selalu selaras dengan kepentingan manusia. Ketidakpastian ini menciptakan ruang gelap yang terus diperdebatkan oleh komunitas keamanan AI dunia.
Ke depannya, tren pengembangan AI diprediksi akan terus melaju kencang tanpa menunggu regulasi keamanan yang ideal. Hal ini menciptakan perlombaan yang tidak seimbang antara kemampuan teknis dan pengendalian etika. Situasi ini menuntut transparansi lebih besar dari perusahaan pengembang untuk membuka akses bagi auditor independen guna menilai keamanan sistem mereka.
Sebagai penutup, peringatan dari para peneliti ini bukanlah akhir dari diskusi, melainkan awal dari tuntutan akuntabilitas. Masyarakat global, termasuk Indonesia, harus menuntut standar keamanan yang lebih ketat sebelum teknologi super cerdas ini benar-benar diintegrasikan ke dalam infrastruktur vital kehidupan manusia. Masa depan teknologi harus ditentukan oleh konsensus kemanusiaan, bukan sekadar ambisi korporasi.