Demo agen kecerdasan buatan selalu ditutup dengan slide yang sama: "90% otonom". Angka tersebut menyembunyikan realitas bahwa hanya 61,6% yang benar-benar bisa diterima organisasi tanpa harus merekonstruksi hasil secara manual untuk memastikan kebenarannya.
Metrik Proof-Adjusted Autonomy (PAA) mengungkap selisih drastis itu. PAA dihitung dari perkalian empat gerbang yang harus diloloskan setiap tugas otomatis: eksekusi tanpa intervensi manusia (A), ketersediaan paket bukti lengkap (C), kelangsungan validasi independen (R), dan hasil terverifikasi masuk dalam jendela keputusan (T). Dengan contoh agen demo bernilai 0,90 untuk A, 0,80 untuk C, 0,95 untuk R, dan 0,90 untuk T, perkaliannya menghasilkan 0,616 atau 61,6%.
Laporan Grant Thornton pada musim semi tahun ini mendokumentasikan akar masalahnya. Organisasi menggelar AI lebih cepat daripada kemampuan mereka menunjukkan akuntabilitas atas sistem tersebut. Kondisi ini disebut sebagai AI Proof Gap.
Jason Wei melalui aturan Verifier's rule menjelaskan mekanisme yang lebih dalam. Kemudahan melatih AI menyelesaikan tugas sebanding dengan seberapa terverifikasi tugas tersebut, sehingga kapabilitas yang mudah diverifikasi hadir lebih dahulu. Namun aturan itu tidak menjawab pertanyaan operasional di lapangan.
Di sisi lain, sistem produksi menghadapi pertanyaan ketiga: berapa banyak pekerjaan otonom yang bisa diserap organisasi secara aman tanpa pemeriksaan manual? PAA mengukur batas tersebut. Setiap faktor bersifat kondisional pada gerbang sebelumnya, sehingga rantai perkaliannya tepat tanpa asumsi independensi.
Di Indonesia, adopsi agen AI mulai merambah perbankan, perdagangan elektronik, hingga layanan publik. Banyak tim menjadikan klaim efisiensi sebagai daya tarik investasi. Tanpa infrastruktur pembuktian, produktivitas yang dilaporkan hanya menumpuk kewajiban tersembunyi yang kelak harus dibayar saat audit atau insiden.
Pengalaman Archdesk membangun ulang pipa rekayasa agenik di sekitar kendala ini sangat relevan bagi perusahaan lokal. Agen tidak berhenti ketika menghasilkan perbaikan, melainkan saat hasil itu bertahan melalui penerimaan yang didefinisikan independen. Mereka menuntut bundel bukti: reproduksi bug, diff, log operasi, tes lulus, dan permintaan keputusan manusia.
Fakta matematis memperlihatkan betapa brutalnya penggandaan keandalan. Alur kerja agen berjangkah 50 dengan keandalan 99% per langkah hanya selesai bersih 60,5% waktu. Jika turun ke 95%, angkanya anjlok ke 7,7%. Agen berhorison panjang butuh pembuktian dan koreksi di tiap batas langkah, bukan sekadar model lebih pintar.
"AI tidak menghilangkan biaya pekerjaan. Ia memindahkan biaya dari memproduksi pekerjaan ke memproves pekerjaan benar," tulis perumus metrik tersebut. Pernyataan itu menegaskan bahwa generasi output melimpah sementara bukti langka, sehingga organisasi tetap harus menandatangani tanggung jawab.
Ia menambahkan klausa kejujuran: P(R|A,C) harus diestimasi dari sampel acak atau lengkap dari paket bukti. Bila hanya memvalidasi pekerjaan yang mudah diverifikasi, angka PAA menjadi langit-langit bukan pengukuran sesungguhnya. Banyak demonstrasi komersial mengabaikan syarat ini demi angka panggung.
Ke depan, batas kemampuan laboratorium AI tidak lagi menjadi penentu tunggal. Batas penyebaran ditetapkan oleh kapasitas pembuktian organisasi sendiri. Hukum antrean berlaku kaku: throughput aman adalah min(generasi, verifikasi). Bila agen memproduksi 100 perubahan sehari dan sistem hanya sanggup memverifikasi 30, maka batas aman tetap 30.
Tim yang memamerkan "ship 3 kali lebih cepat" dengan agen tanpa infrastruktur bukti sebenarnya tidak melipatgandakan output. Mereka mengungkitnya dengan utang bukti. CFO perlu membaca paragraf ini dua kali: laporan laba rugi mencatat kecepatan hari ini, sementara insiden akan mencatat liabilitas di masa depan.