Keputusan DeepSeek untuk menurunkan harga model V4-Pro hingga 75% awalnya dianggap sebagai kabar baik bagi vendor dan pengembang AI enterprise. Namun, banyak pihak kini menyadari bahwa harga yang lebih murah tidak otomatis meningkatkan margin karena adanya fenomena yang disebut token amplification. Masalah 100x ini muncul ketika satu permintaan pengguna yang terlihat oleh sistem diubah menjadi puluhan atau bahkan ratusan panggilan model yang berbayar. Loop ini mencakup perencanaan, pengambilan data, eksekusi alat, verifikasi, ringkasan, dan keputusan lanjutan yang semuanya menambah biaya komputasi.
Dalam chatbot tradisional, satu pesan pengguna menghasilkan sekitar satu panggilan model dengan rasio input-ke-billing sekitar 1:5. Sebaliknya, alur kerja agen yang digunakan di dukungan pelanggan, operasi penjualan, keuangan, tinjauan hukum, dan rekayasa sering mencapai rasio 1:700 atau lebih. Setiap iterasi loop mempertahankan percakapan kumulatif, output alat, dan jejak penalaran tanpa ada yang dibuang. Contoh sederhana seperti “Apa yang ditanyakan pelanggan utama kami minggu lalu?” dapat melibatkan tujuh operasi berbayar: prompt pengguna, definisi sistem dan alat, pengambilan data, tiga panggilan model (pemilihan alat, ringkasan, keputusan lanjutan), eksekusi alat, dan akhirnya menghasilkan jawaban. Hal ini dapat mencapai sekitar 35.000 token input yang ditagih, dengan biaya antara $0,10 dan $0,40 per kueri pada model frontier. Kalikan dengan satu juta kueri per bulan – volume dasar untuk fitur B2B enterprise – dan biaya menjadi enam angka.
Model harga SaaS berbasis jumlah kursi yang dominan di AI enterprise berasumsi bahwa biaya per pengguna tetap terkendali. Token amplification menghancurkan asumsi ini. Pengguna daya yang menjalankan 50 panggilan agen per hari pada paket $40 per kursi dapat menghabiskan lebih banyak untuk inferensi daripada yang ditagih oleh paket tersebut. Beberapa vendor secara pribadi melaporkan margin kotor negatif pada pengguna berat, mirip dengan laporan pengeluaran cloud dari kohort Bessemer “Supernova”, yang menunjukkan bahwa adopsi agen AI kini menjadi hambatan utama bagi profitabilitas.
Gejala nyata mulai muncul ke permukaan. Bloomberg baru-baru ini mendokumentasikan kesenjangan antara demonstrasi Agentforce Salesforce dan kemampuan yang sebenarnya dikirim ke pelanggan. Kesenjangan ini muncul secara alami ketika fungsionalitas yang dijanjikan secara teknis mungkin tetapi tidak ekonomis untuk disajikan pada harga paket kursi. "Bagi tim saya, biaya komputasi jauh melampaui biaya karyawan," kata Bryan Catanzaro, VP of Applied Deep Learning di Nvidia, merangkum tantangan strategis yang lebih luas.
Implikasi strategisnya bukan bahwa “AI itu mahal.” Melainkan bahwa model bisnis dominan yang diasumsikan oleh sebagian besar rencana perusahaan AI asli tidak dapat bertahan ketika dihadapkan pada beban kerja agenik. Contoh sederhana: vendor perangkat lunak enterprise yang mengenakan $40 per pengguna per bulan untuk asisten dukungan AI yang didukung AI mungkin menemukan bahwa chatbot tradisional hanya menghabiskan beberapa sen per pengguna per hari dalam biaya inferensi, sehingga menghasilkan margin yang sehat. Ketika chatbot diganti dengan alur kerja agenik yang mampu menyelidiki tiket, menanyakan sistem internal, menyusun respons, memvalidasi output, dan meningkatkan eskalasi, konsumsi inferensi dapat meningkat hingga satu orde magnitudo. Apa yang sebelumnya merupakan biaya infrastruktur yang diabaikan menjadi biaya operasional yang material.
Dinamika yang tidak biasa ini muncul: pelanggan yang mendapatkan nilai terbesar dari produk sering kali adalah pelanggan yang menghasilkan biaya inferensi tertinggi. Dalam kasus ekstrem, vendor dapat menemukan bahwa pengguna paling aktif mereka berkontribusi pada keuntungan paling sedikit. Kesadaran ini berkembang di seluruh perangkat lunak enterprise bahwa adopsi agen dan perluasan margin tidak lagi otomatis selaras.
Orkestrasi agen menjadi sangat penting untuk mengatasi amplifikasi token. Dengan merancang loop yang lebih efisien, menggunakan caching yang cerdas, dan menerapkan harga berbasis penggunaan yang lebih granular, penyedia dapat menyeimbangkan pengalaman pengguna dengan kelangsungan bisnis. Tren ini memaksa industri untuk memikirkan kembali tidak hanya strategi harga tetapi juga arsitektur produk itu sendiri, memastikan bahwa kemajuan dalam kemampuan AI disertai dengan model ekonomi yang berkelanjutan.