Para pengembang agen kecerdasan buatan (AI) selama ini kerap menyederhanakan mekanisme kerja sistem menjadi satu lingkaran pemrosesan tunggal. Padahal, menurut analisis seorang pengembang yang dipublikasikan melalui blog teknis, arsitektur agen AI sejatinya terdiri dari tiga loop yang bekerja berlapis: inference loop, tool loop, dan human loop. Pemahaman ini menjadi krusial, terutama bagi ekosistem pengembangan AI di Indonesia yang tengah bertumbuh pesat.
Loop yang pertama dan paling mendasar adalah inference loop. Lingkaran ini bertanggung jawab memanggil API chat completion dari model bahasa besar (LLM), mengelola riwayat percakapan, serta menangani permintaan penggunaan tool yang diajukan model. Tanpa loop ini, model tidak bisa diajak berkomunikasi secara berkelanjutan. Perlu dicatat—tanpa melanggar aturan—bahwa API LLM pada dasarnya stateless, sehingga seluruh riwayat percakapan harus dikirim setiap kali ada permintaan baru. Konsekuensinya, percakapan yang panjang akan mengonsumsi token lebih banyak.
Ketika model memutuskan untuk menggunakan tool yang telah disediakan, inference loop akan mengaktifkan loop kedua, yaitu tool loop. Loop ini bertugas mencari fungsi yang sesuai dengan nama tool yang diminta model, menjalankannya dengan parameter yang diberikan, lalu mengembalikan hasilnya ke model. Karena tool call juga merupakan hasil inferensi teks, nama tool dan parameter bisa saja mengalami halusinasi. Oleh karena itu, pengembang harus bersikap defensif dengan menyiapkan penanganan khusus ketika tool tidak ditemukan. Hasil error pun perlu dikemas dalam format yang bisa dipahami model, misalnya menggunakan tag XML.
Lapisan terluar adalah human loop, yang oleh penulis blog disebut juga safety loop atau sanity loop. Tidak seperti dua loop sebelumnya yang berjalan otomatis, human loop melibatkan campur tangan manusia untuk menyetujui atau menolak eksekusi tool tertentu. Ini menjadi jaring pengaman agar agen tidak bertindak di luar kendali, terutama jika tool yang dipanggil berisiko tinggi, seperti mengirim email, menghapus data, atau mengakses sistem eksternal.
Pemisahan tiga loop ini bukan sekadar konsep teoretis. Dalam implementasi nyata, menyatukan semuanya dalam satu loop sederhana dapat menyebabkan pemborosan token, kesalahan penanganan tool, hingga celah keamanan. Penulis blog mencontohkan bahwa tool result dari mayoritas provider API tidak memiliki kode error, sehingga error harus diterjemahkan secara eksplisit ke dalam konten yang dikembalikan agar model bisa memprosesnya dengan benar.
Bagi pengembang AI di Indonesia, pemahaman terhadap arsitektur loop ini menjadi semakin relevan. Banyak startup lokal kini mulai membangun asisten virtual berbasis LLM, baik untuk layanan pelanggan, asisten penjualan, maupun platform edukasi berbahasa Indonesia. Jika arsitektur agen tidak dirancang dengan benar, risiko kegagalan sistem dan kerugian finansial bisa meningkat drastis.
Penulis blog menekankan bahwa LLM hanyalah "otak dalam stoples" yang tidak memberikan nilai fungsional tanpa alat yang melekat padanya. "The tools you give an LLM are what make it an agent," tulisnya. Dengan kata lain, kekuatan agen terletak pada bagaimana tool loop dan human loop dirancang untuk mendukung proses inferensi.
Ke depan, seiring kompleksitas agen AI yang terus bertambah, pengembang di Indonesia perlu menjadikan tiga loop ini sebagai standar dalam merancang arsitektur. Platform seperti Anthropic, OpenAI, dan OpenRouter sudah menyediakan API yang memfasilitasi pemanggilan tool, tetapi implementasi loop yang rapi tetap berada di tangan pengembang. Mengabaikan salah satu loop, terutama human loop, bisa berakibat fatal karena agen dapat melakukan tindakan tanpa persetujuan.
Sebagai penutup, arsitektur agen AI yang andal membutuhkan perencanaan matang terhadap ketiga loop ini. Bagi pengembang Indonesia yang ingin serius membangun produk agen, memahami peran inference, tool, dan human loop adalah langkah awal yang esensial. Tidak ada jalan pintas jika ingin menciptakan agen yang aman, efisien, dan benar-benar berguna.