Kematian José Morales Bernal pada April 2024 menjadi potret buram kegagalan sistem pengawasan perbatasan Amerika Serikat yang bernilai miliaran dolar. Meski berada dalam jangkauan tiga menara pengawas berteknologi AI yang dirancang untuk mendeteksi pergerakan manusia secara otomatis, keberadaan Morales justru tidak terdeteksi oleh otoritas setempat. Ia ditemukan meninggal dunia akibat paparan cuaca ekstrem oleh pekerja tempat pembuangan sampah, hanya berjarak 360 kaki dari menara pengawas terdekat.
Investigasi mendalam yang dilakukan MIT Technology Review mengungkap bahwa insiden tersebut bukanlah kasus terisolasi. Selama 15 bulan, tim peneliti memetakan hampir 4.000 titik penemuan jenazah di sepanjang perbatasan AS-Meksiko dan membandingkannya dengan lokasi 600 menara pengawas. Hasilnya mengejutkan: krisis kemanusiaan justru terjadi tepat di bawah pengawasan kamera pemerintah yang dilengkapi algoritma canggih.
Pemerintah AS sebenarnya telah menginvestasikan anggaran besar untuk membangun apa yang disebut sebagai 'dinding virtual'. Namun, sistem ini terbukti memiliki cacat sistemik. Masalahnya bukan hanya pada menara yang rusak, tetapi juga pada algoritma yang kerap gagal mengenali subjek manusia serta respons personel di lapangan yang tidak sigap terhadap peringatan yang muncul di layar monitor.
Analisis Times of San Diego mencatat setidaknya 138 kasus sejak 2022 di mana jenazah migran ditemukan dalam radius jangkauan menara pengawas. Lebih dari separuh dari jumlah tersebut kemungkinan besar berada tepat dalam bidang pandang kamera. Kondisi ini memicu perdebatan sengit mengenai efektivitas teknologi pengawasan dalam menangani krisis migrasi dibandingkan dengan pendekatan kemanusiaan.
Ketergantungan pada AI dalam pengawasan perbatasan mencerminkan tren global di mana teknologi sering dianggap sebagai solusi tunggal atas masalah kompleksitas sosial. Padahal, tanpa integrasi respons manusia yang tepat, teknologi hanyalah pengumpul data pasif. Ketika sistem gagal membedakan antara ancaman keamanan dan kebutuhan medis darurat, teknologi justru kehilangan nilai gunanya dalam menyelamatkan nyawa.
Di Indonesia, adopsi teknologi berbasis AI untuk pengawasan perbatasan dan keamanan publik memang sedang digalakkan, terutama dalam sistem pengenalan wajah (facial recognition) dan drone pengintai. Namun, kasus di AS memberikan pelajaran berharga bahwa infrastruktur secanggih apa pun tidak akan efektif tanpa prosedur operasional standar (SOP) yang memadai serta etika kemanusiaan yang menjadi prioritas utama.
Perbandingan ini relevan bagi regulator di Indonesia saat mengembangkan sistem 'smart border'. Tantangan yang dihadapi bukan sekadar masalah teknis atau akurasi algoritma, melainkan bagaimana data yang dihasilkan diolah menjadi tindakan penyelamatan yang nyata. Jika sistem hanya berfungsi untuk memantau tanpa ada unit tanggap darurat yang terintegrasi, risiko kegagalan serupa dapat terjadi di wilayah perbatasan Indonesia yang luas.
Selain itu, ketergantungan pada AI juga menimbulkan pertanyaan terkait akuntabilitas. Siapa yang bertanggung jawab ketika sistem gagal mendeteksi nyawa yang terancam di depan mata? Di AS, rencana penambahan anggaran sebesar 1 miliar dolar untuk melipatgandakan ukuran dinding virtual kini mendapat kritik tajam dari berbagai kalangan yang menuntut perbaikan mendasar pada manajemen respons, bukan sekadar penambahan perangkat keras.
Investigasi ini juga menyoroti bahaya dari 'halusinasi' atau kesalahan interpretasi AI. Ketika algoritma gagal mendeteksi manusia karena faktor lingkungan atau keterbatasan resolusi, konsekuensinya bisa sangat fatal. Hal ini menegaskan bahwa istilah 'manusia dalam kendali' (human-in-the-loop) sering kali hanyalah ilusi jika petugas tidak dilatih untuk memverifikasi data secara kritis.
Ke depannya, pengembangan teknologi perbatasan harus beralih dari sekadar pengawasan keamanan menuju sistem terpadu yang mencakup deteksi dini kondisi darurat. Langkah yang diusulkan bagi Customs and Border Protection (CBP) di AS, seperti perbaikan algoritma deteksi dan penguatan respons petugas, bisa menjadi cetak biru bagi negara lain yang ingin menerapkan teknologi serupa secara lebih manusiawi.
Teknologi tidak seharusnya menjadi saksi bisu atas hilangnya nyawa. Seiring dengan pesatnya perkembangan AI, transparansi mengenai batasan teknologi dan kegagalannya menjadi krusial. Tanpa evaluasi mendalam, investasi besar pada infrastruktur digital hanya akan menciptakan ilusi keamanan yang justru mengabaikan realitas kemanusiaan di lapangan.
Secara keseluruhan, kasus dinding virtual AS menjadi pengingat bagi pengembang teknologi di seluruh dunia. Bahwa inovasi harus selalu berjalan beriringan dengan nilai kemanusiaan, terutama saat teknologi tersebut digunakan untuk mengelola wilayah yang bersinggungan langsung dengan keselamatan nyawa manusia.