Paus Leo XIV secara tegas menyerukan agar sistem kecerdasan buatan (AI) segera 'dilucuti' demi menjaga kemanusiaan. Dalam pidato kepausan terbaru, beliau menekankan bahwa mesin hanyalah alat dan bukan subjek yang memiliki hak atau kepribadian hukum yang setara dengan manusia. Seruan ini diarahkan langsung kepada negara-negara anggota PBB agar mengambil langkah konkret untuk melarang penggunaan senjata otonom mematikan dalam pertemuan di Jenewa mendatang.
Langkah ini merupakan kelanjutan dari ensiklik atau dokumen kepausan yang dirilis pada Mei lalu, yang berfokus pada upaya perlindungan martabat manusia di tengah pesatnya perkembangan teknologi. Paus Leo XIV menegaskan bahwa keputusan yang menyangkut nyawa manusia, kebebasan, serta penggunaan kekuatan militer harus tetap berada di bawah pengawasan manusia yang efektif, terinformasi, dan bertanggung jawab penuh.
Keberanian Paus Leo XIV dalam mengangkat isu ini mencerminkan keresahan global terhadap potensi penyalahgunaan teknologi otonom. Beliau bahkan menyebutkan bahwa pemilihan nama kepausannya berkaitan dengan tanggung jawab moral untuk menghadapi kemajuan teknologi, serupa dengan peran Paus Leo XIII yang memimpin gereja di masa Revolusi Industri. Ini adalah sinyal bahwa institusi keagamaan kini menempatkan etika teknologi sebagai prioritas utama.
Dalam konteks keamanan global, desakan untuk melarang senjata otonom bukanlah wacana baru. Paus Fransiskus sebelumnya juga pernah menyatakan bahwa tidak boleh ada mesin yang memiliki kewenangan untuk mencabut nyawa manusia. Namun, dorongan dari Paus Leo XIV kali ini terasa lebih mendesak karena integrasi AI dalam sistem pertahanan negara-negara besar dunia telah mencapai tahap yang mengkhawatirkan.
Bagi industri teknologi, pernyataan ini menjadi peringatan keras bagi para pengembang sistem otonom. Paus menuntut adanya standar bersama, pengawasan independen, serta mekanisme akuntabilitas yang jelas. Jika terjadi pelanggaran atau kerugian akibat penggunaan AI, harus ada prosedur pemulihan yang nyata agar pengembang tidak bisa berlindung di balik algoritma yang kompleks.
Di Indonesia, isu mengenai senjata otonom dan AI memang belum menjadi debat publik yang intens, namun implikasinya sangat relevan. Dengan pertumbuhan pesat sektor ekonomi digital dan adopsi AI di berbagai sektor, Indonesia perlu mempertimbangkan regulasi etika AI yang lebih komprehensif. Pemerintah Indonesia saat ini memang telah memiliki panduan etika AI, tetapi penegakan terkait penggunaan AI dalam sistem kritikal masih memerlukan kerangka hukum yang lebih mengikat.
Industri teknologi pertahanan di tanah air juga perlu mencermati tren global ini. Saat Indonesia mulai memodernisasi alutsista, integrasi teknologi AI harus dipastikan tetap dalam kendali penuh operator manusia. Kedaulatan digital dan kemanusiaan adalah dua sisi mata uang yang tidak boleh dikorbankan demi efisiensi algoritma.
Ketakutan Paus akan 'personifikasi' mesin menjadi poin krusial. Ketika perusahaan teknologi mulai melabeli AI sebagai 'rekan' atau 'asisten yang memiliki perasaan', batasan moral akan semakin kabur. Paus Leo XIV mengingatkan bahwa memberikan hak legal kepada mesin adalah langkah berbahaya yang akan mendegradasi nilai kemanusiaan itu sendiri.
Menanggapi seruan ini, para ahli etika teknologi di dunia mulai mendesak pembentukan badan pengawas internasional yang memiliki wewenang hukum. Tanpa adanya aturan main yang disepakati secara global, perlombaan senjata AI akan terus berlanjut tanpa kendali, yang pada akhirnya mengancam stabilitas keamanan dunia.
Langkah selanjutnya yang diharapkan adalah adanya konsensus dalam pertemuan di Jenewa. Jika mayoritas negara PBB sepakat untuk membatasi atau melarang senjata otonom mematikan, ini akan menjadi preseden hukum internasional yang sangat kuat. Dunia menunggu apakah para pemimpin negara akan lebih mendengarkan seruan moral ini dibandingkan kepentingan strategis militer mereka.
Ke depan, tren pengembangan AI diprediksi akan mengalami pergeseran dari 'kecepatan inovasi' menuju 'keamanan inovasi'. Perusahaan teknologi besar kemungkinan akan menghadapi tekanan regulasi yang lebih ketat, terutama terkait transparansi algoritma. Inovasi yang tidak dibarengi dengan tanggung jawab etis akan semakin sulit diterima oleh masyarakat luas.
Paus Leo XIV telah membuka ruang diskusi yang sangat krusial di panggung internasional. Kini, bola berada di tangan para pembuat kebijakan dan pemimpin industri untuk membuktikan bahwa teknologi diciptakan untuk melayani manusia, bukan sebaliknya. Masa depan peradaban mungkin saja bergantung pada seberapa mampu kita menjaga kendali atas mesin yang kita ciptakan sendiri.