Andy McMahon, principal AI engineer di Barclays, memperingatkan bahwa mengejar kecepatan pengembangan kode AI tanpa pengujian dan pengawasan yang ketat dapat membahayakan keandalan dan keamanan layanan finansial. Dalam wawancara di Singapura, ia menjelaskan mengapa praktik internal yang disiplin lebih penting daripada sekadar menulis kode secepat mungkin.
McMahon mengungkapkan bahwa tekanan untuk menghasilkan model AI lebih cepat dari pesaing sering kali membuat tim mengabaikan langkah‑langkah kritis. "Kita melihat kasus di mana model yang belum matang dilepaskan ke produksi karena tenggat waktu, dan dampaknya terasa berminggu‑minggu kemudian," katanya. "Hasilnya bukan inovasi, melainkan utang teknis yang harus dibayar mahal."
Pengujian internal, menurut McMahon, bukan sekadar pengecekan kualitas, tetapi juga alat untuk membangun kepercayaan. Barclays menerapkan serangkaian uji coba terkendali sebelum sebuah model digunakan secara luas. Setiap tahap diuji dengan data sintetis dan historis, kemudian dievaluasi berdasarkan metrik performa yang telah ditetapkan. Proses ini memastikan bahwa setiap peningkatan tidak hanya cepat, tetapi juga benar.
Selain itu, pengawasan yang ketat menjadi pilar kedua dalam strategi Barclays. Perusahaan menerapkan kerangka kerja tata kelola yang mengharuskan persetujuan dari tim etika AI, pejabat kepatuhan, dan auditor independen. Manusia tetap berada di loop, meninjau keputusan yang diambil oleh model otomatis dan memastikan output sesuai dengan standar regulasi serta nilai‑nilai perusahaan.
Hasil yang dapat diukur menjadi pembeda antara kecepatan yang produktif dan kecepatan yang berbahaya. McMahon menekankan pentingnya dashboard KPI yang transparan, yang melacak latensi, akurasi, dan dampak bisnis dari setiap model AI. Data ini tidak hanya berguna untuk pelaporan, tetapi juga sebagai umpan balik untuk perbaikan berkelanjutan.
Di industri yang dipenuhi euforia AI, banyak perusahaan lebih fokus pada kecepatan prototyping daripada kualitas hasil. Tren ini terlihat di startup teknologi keuangan yang sering kali meluncurkan produk berbasis AI tanpa infrastruktur pengawasan yang memadai. Dampaknya, kepercayaan pelanggan terhadap layanan AI bisa terkikis ketika terjadi kesalahan atau bias.
Bagi sektor jasa keuangan, risiko akibat kegagalan AI jauh lebih besar dibandingkan industri lain. Kesalahan prediksi kredit atau deteksi penipuan yang salah dapat menyebabkan kerugian finansial langsung dan merusak reputasi jangka panjang. Itulah mengapa Barclays berinvestasi besar dalam budaya "quality‑first", yang menjadikan keamanan dan kepatuhan sebagai prioritas utama, bukan sekadar pelengkap.
Di Indonesia, bank‑bank seperti BCA dan Bank Mandiri telah mulai mengadopsi model AI untuk layanan pelanggan dan deteksi transaksi mencurigakan. Namun, tantangan serupa muncul: tekanan untuk meluncurkan inovasi lebih cepat dari pesaing sering kali berbenturan dengan keterbatasan sumber daya dan kerangka regulasi yang masih berkembang. Pengalaman Barclays dapat menjadi pelajaran berharga bagi institusi lokal untuk membangun fondasi pengujian dan pengawasan yang kuat sebelum skalasi besar‑besaran.
"Kecepatan itu penting, tetapi kecepatan tanpa kendali adalah perangkap yang nyata," tegas McMahon. Ia menambahkan, "Ketika Anda meremehkan pengujian atau pengawasan, Anda bertaruh dengan uang pelanggan dan reputasi Anda sendiri."
Ke depan, McMahon memprediksi pergeseran paradigma dari 'speed‑to‑market' ke 'quality‑to‑market'. Alat‑alat baru seperti platform pengujian berbasis kontinum dan model AI yang dapat diaudit akan semakin mendukung pendekatan ini. Perusahaan yang berhasil mengadopsi alat‑alat tersebut akan mampu berinovasi tanpa mengorbankan keamanan.
Bagi perusahaan yang ingin meniru kesuksesan Barclays, kuncinya adalah membangun budaya kolaboratif di mana insinyur, regulator, dan pemangku kepentingan bisnis bekerja sama sejak awal proyek. Hanya dengan cara ini kecepatan dapat menjadi keunggulan kompetitif, bukan sumber kerentanan.
Dengan demikian, peringatan McMahon bukan hanya relevan bagi perbankan global, tetapi juga bagi ekosistem teknologi keuangan di Asia Tenggara secara luas. Keseimbangan antara inovasi dan pengawasan akan menentukan siapa yang benar‑benar siap menghadapi masa depan AI.