Andy McMahon, insinyur AI utama di Barclays, memperingatkan bahwa mengejar kecepatan pengembangan AI tanpa pengujian internal yang memadai dapat menjadi jebakan berbahaya bagi bank.
Dalam sebuah wawancara, McMahon menjelaskan bahwa menulis kode AI lebih cepat tidak menjamin keandalan. Ia menekankan pentingnya pengujian ketat, pengawasan berkelanjutan, dan hasil yang dapat diukur sebelum model digunakan untuk melayani pelanggan.
Peringatan ini muncul di tengah perlombaan AI yang semakin ketat di sektor keuangan. Bank-bank berlomba meluncurkan solusi berbasis AI untuk meningkatkan pengalaman nasabah, mengurangi biaya, dan mendeteksi penipuan secara real‑time.
Namun, tekanan untuk berinovasi cepat sering kali mengabaikan kebutuhan akan audit trail yang jelas dan kepatuhan terhadap regulasi. Tanpa dokumentasi yang solid, institusi keuangan rentan terhadap risiko operasional dan sanksi dari regulator.
Beberapa tahun terakhir mencatat beberapa kegagalan AI yang mahal di industri ini. Salah satu kasus terkenal terjadi pada tahun 2022 ketika sistem rekomendasi investasi sebuah bank salah menilai portofolio ribuan nasabah, menyebabkan kerugian jutaan dolar.
Kegagalan tersebut mendorong institusi keuangan lain untuk meninjau kembali strategi AI mereka. Banyak bank kini mengadopsi kerangka kerja “AI yang bertanggung jawab” yang memprioritaskan transparansi, keadilan, dan akuntabilitas.
Di Indonesia, bank‑bank seperti BCA, Mandiri, dan sejumlah fintech mulai mengadopsi teknologi serupa dengan kecepatan yang tinggi. Startup‑startup lokal juga meluncurkan model AI untuk kredit scoring dan layanan pelanggan tanpa memiliki tim pengawasan yang matang.
Otoritas Jasa Keuangan (OJK) baru‑baru ini mengeluarkan panduan penggunaan AI di sektor keuangan, menekankan kebutuhan akan pengawasan internal dan dokumentasi yang dapat diaudit. Namun, penerapan panduan tersebut masih bersifat sukarela dan sumber daya untuk pengawasan masih terbatas.
Menurut McMahon, “Kecepatan bukan tujuan; kecepatan tanpa disiplin akan menciptakan risiko yang tidak terlihat hingga terlambat.” Ia mencontohkan praktik Barclays yang melakukan pengujian internal terhadap lebih dari 200 model AI setiap hari sebelum digunakan secara produksi.
Barclays juga menerapkan sistem pemantauan yang terus‑menerus untuk melacak performa model, mendeteksi penyimpangan, dan memastikan hasil yang konsisten. Hasilnya, bank melaporkan penurunan insiden kesalahan AI hingga 40 % dalam dua tahun terakhir.
Tren ke depan menunjukkan pergeseran dari pengembangan AI yang hanya berfokus pada kecepatan menuju tata kelola AI yang matang. Perusahaan‑perusahaan yang berinvestasi dalam alat pengujian otomatis, tim etika AI, dan pelatihan staf akan memiliki keunggulan kompetitif yang berkelanjutan.
Bagi Indonesia, ini menjadi pengingat bahwa adopsi AI harus seimbang dengan pembangunan kapasitas pengawasan. Kolaborasi antara regulator, industri, dan akademisi sangat penting untuk membangun ekosistem AI yang aman dan inklusif di sektor keuangan.