Pengembang perangkat lunak yang membangun fitur berbasis Claude API mengalami kegagalan tak terduga saat mencoba memutakhirkan model ke Opus 4.8 atau Fable 5. Kode yang sebelumnya mengatur alokasi token untuk proses berpikir model secara tetap kini memunculkan respons error 400. Penyebabnya sederhana: parameter budget_tokens tidak lagi didukung pada generasi model terbaru.
Pada era Opus 4.5, praktik umum mengharuskan penyebutan eksplisit jatah token berpikir, misalnya 8.000 token dari batas maksimal 16.000 token. Cara ini memberi kendali kepada programmer untuk membatasi seberapa lama model melakukan penalaran sebelum menghasilkan jawaban. Namun, struktur tersebut runtuh ketika Anthropic memperkenalkan paradigma adaptive thinking.
Latar belakang perubahan ini berakar pada evaluasi internal yang menunjukkan bahwa penetapan budget secara manual sebenarnya hanya tebakan yang menyamar sebagai perhitungan matematis. Banyak pengembang, termasuk penulis kode asli, memilih persentase seperti 30% dari konteks tanpa dasar empiris kuat. Model baru memindahkan keputusan tersebut ke dalam sistem, membiarkan algoritme yang melihat masalah sesungguhnya menentukan kedalaman penalaran.
Alih-alih menggunakan budget_tokens, spesifikasi terkini menggunakan kombinasi thinking bertipe adaptive dan parameter output_config dengan pengaturan effort. Tingkat effort meliputi low, medium, high, xhigh, hingga max. Perbedaan mendasar terletak pada sumbu kendali: budget lama hanya mengatur kapasitas berpikir, sedangkan effort mengatur seberapa banyak model berpikir sekaligus bertindak.
Contoh implementasi terbaru terlihat pada pemanggilan API dengan model claude-opus-4-8, di mana max_tokens tetap 16.000, thinking diisi tipe adaptive, dan output_config berisi effort high. Tidak ada lagi angka pasti yang memaksa model, sehingga fleksibilitas penalaran diserahkan kepada infrastruktur Anthropic. Hal ini mengharuskan pengembang mengubah cara pandang, bukan sekadar mengganti sintaks.
Pengalaman migrasi nyata menunjukkan bahwa effort tinggi di awal sering kali menekan biaya total pada tugas agenik. Sebab, model merencanakan langkah lebih baik dan memerlukan putaran interaksi lebih sedikit. Asumsi lama yang menganggap max selalu memakan token terbanyak terbantahkan, karena pada tugas multistep, pengaturan tertinggi justru memangkas jumlah turunan proses.
Berdasarkan uji evaluasi, penentuan effort dapat dipetakan pada beban kerja. Klasifikasi dan perutean cukup menggunakan low karena menuntut kecepatan, bukan kedalaman intelijensi. Lalu lintas aplikasi umum berada di medium hingga high. Tugas pemrograman dan loop agenik cocok dengan xhigh, sementara situasi kritis yang tak toleran terhadap kesalahan menggunakan max.
Proses adaptasi memerlukan langkah teknis konkret. Pencarian string budget_tokens di seluruh basis kode wajib dilakukan. Kemudian, blok thinking lama diganti menjadi tipe adaptive, disertai penambahan output_config per situs pemanggilan, bukan nilai global tunggal. Helper penghitung budget yang menjadi beban pun sebaiknya dihapus seluruhnya.
Selain itu, parameter seperti temperature, top_p, dan top_k juga memicu error 400 pada model 4.7 ke atas, sehingga harus dicabut. Sebagai verifikasi, pengembang disarankan menjalankan permintaan uji dengan max_tokens kecil, misalnya 64, serta pesan ping, lalu menegaskan respons model diawali dengan claude-opus-4-8. Uji ini memastikan konfigurasi baru aktif.
Satu kendala tampilan perlu dicatat: pada Opus 4.7 ke atas, blok thinking masih mengalir namun teksnya kosong secara bawaan. Antarmuka yang merender proses penalaran akan mendapati jeda panjang tanpa progres. Solusinya dengan menambahkan display summarized pada bagian thinking, agar ringkasan reasoning tetap muncul bagi pengguna akhir.
Pelajaran berharga dari pergeseran ini adalah bahaya membangun abstraksi di atas parameter vendor yang bersifat insidental. budget_tokens ternyata bukan fondasi fundamental, melainkan cara sementara untuk mengizinkan model berpikir saat diperlukan. Dengan adaptive thinking, ekspresi tujuan tersebut langsung tertangani oleh platform, mengurangi baris kode milik pengembang sekaligus meningkatkan kualitas keluaran.
Di Indonesia, ekosistem pengembang AI mulai mengandalkan Claude melalui layanan seperti Amazon Bedrock atau proxy resmi, meski mayoritas masih menggunakan model OpenAI dan Gemini. Perubahan API ini mengingatkan tim lokal yang membangun wrapper agar tidak mengunci logika bisnis pada parameter spesifik penyedia. Komunitas startup di Jakarta dan Bandung yang merintis agen otonom perlu menyesuaikan arsitektur sebelum adopsi massal model generasi baru.
Ke depan, tren kendali berbasis effort diprediksi merambah model lain seiring industri beralih ke penalaran adaptif. Pengembang Tanah Air dituntut merancang lapisan abstraksi yang tangguh, misalnya dengan pola konfigurasi terpusat yang mudah diubah. Dengan begitu, saat vendor melakukan penyesuaian parameter, produk domestik tidak mengalami pemadaman fungsi mendadak.