Di Nigeria, platform bernama AutoValue mencoba memberikan penilaian harga mobil bekas secara otomatis lewat foto. Sang pengembang segera menyadari bahwa komponen yang dianggap paling mudah justru hampir meruntuhkan produk. Model bahasa yang dimintai estimasi harga menyerahkan angka yang nyaris seragam untuk semua kendaraan.
Uji coba awal memakai Claude Haiku langsung memunculkan pola aneh. Hampir setiap mobil dinilai antara ₦20 juta hingga ₦25 juta, tanpa membedakan jenis. Sebuah Land Cruiser Prado keluaran 2020 yang seharusnya bernilai ₦70–95 juta justru mendapat label ₦21 juta. Mobil sedan murah hingga SUV mewah meluncur ke rentang sama.
Akar masalahnya terletak pada cara model bahasa dilatih. Data pelatihan model tersebut sarat dengan harga mobil Nigeria dari era ketika nilai tukar naira berada di kisaran ₦450 per dolar Amerika Serikat. Saat sistem dibangun, kurs jalanan telah menyentuh ₦1.500 per dolar. Naira kehilangan sekitar 70 persen nilainya terhadap mata uang asing.
Karena hampir seluruh mobil bekas di Nigeria merupakan barang impor, harganya mengikuti pergerakan dolar. Model tidak sekadar berhalusinasi secara acak. Ia justru mengingat dunia yang sudah tidak ada dan mencitrakan angka tersebut ke kondisi pasar sekarang yang telah melipatgandakan harga tiga kali lipat.
Kejadian ini bukan sekadar cerita teknis dari Lagos. Ini mengungkap kelemahan mendasar saat kita meminta model bahasa memberikan angka absolut di ekonomi volatil. Inflasi, devaluasi, atau gejolak harga komoditas membuat memorinya usang. Model akan menjawab dengan yakin, dalam prosa yang memukau, padahal sumbernya adalah masa lalu.
Indonesia memiliki dinamika serupa pada pasar kendaraan bekas. Platform seperti OLX Autos atau mobil123 menampilkan harga ajuan yang kerap kali menjadi pembuka tawar, bukan nilai pasar objektif. Belum ada semacam "Blue Book" ala Amerika yang menyajikan acuan transparan untuk konsumen Tanah Air. Oleh karena itu, godaan menggunakan LLM sebagai penilai instan sangat besar bagi startup lokal.
Namun, rupiah juga mengalami fluktuasi terhadap dolar, dan Indonesia masih mengimpor banyak komponen otomotif serta kendaraan utuh. Jika sebuah model bahasa dilatih dengan data harga sebelum periode depresiasi rupiah, hasilnya bisa sama menyesatkannya dengan kasus naira. Pengembang di Jakarta atau Bandung harus menyadari bahwa penentuan harga absolut dengan LLM berbahaya.
Di sisi lain, pelajaran dari AutoValue menunjukkan jalan keluar: turunkan status model dari peramal menjadi kalkulator. Sistem harus mengambil angka riil dari pencarian web terlebih dahulu, lalu membiarkan LLM hanya mengaplikasikan penyesuaian persentase atas kondisi, kilometer, dan lokasi. Penyesuaian relatif jauh lebih stabil daripada harga absolut.
Menurut John Chichebe, pembuat AutoValue, perbaikan arsitektur bukan soal prompt yang lebih pintar. "Training data isn't a fact the model can bracket off. It's the water the model swims in," tulisnya dalam catatan teknis. Dalam konteks Indonesia, pernyataan itu mengingatkan bahwa memperbaiki instruksi tidak akan mengganti memorinya yang membeku.
Chichebe juga menemukan bug kedua yang merusak sendiri. Saat pencarian live tidak membuahkan hasil, ia mengizinkan estimasi model disimpan sebagai jangkar dengan label claude_estimate. Pada permintaan berikutnya, pipeline melewati pencarian dan menyuntikkan tebakan lama sebagai data pasar. Halusinasi pun berlipat ganda. Aturan provenans kemudian diterapkan: sumber manusia terverifikasi lebih tinggi dari pencarian live, yang lebih tinggi dari tanpa data.
Ke depan, rancangan serupa kemungkinan akan muncul di Indonesia seiring meluasnya adopsi AI generatif untuk fintech dan marketplace. Penggunaan API seperti Serper untuk mengambil harga aktual dari situs listing lokal dapat menjadi standar. Tanpa itu, produk valuasi berisiko menyesatkan penjual dan pembeli.
Lebih jauh, sistem yang menyimpan output model ke basis data perlu audit ketat. Loop umpan balik diam-diam akan mengganti data asli dengan opini model tentang dirinya sendiri. Pengembang harus menetapkan hierarki kepercayaan dan memastikan AI tetap berada pada posisinya sebagai alat bantu hitung, bukan sumber kebenaran.