← Catatan dari produksi
AgentsCost controlRAG
Agentic RAG tanpa biaya membengkak
Agen adalah loop, dan loop memakan biaya. Beda agen berguna dan tagihan membengkak ada pada guardrail di setiap langkah.
Jaga setiap tool call
Batasi iterasi, validasi input dan output tool, dan minta model membenarkan tiap langkah. Catat biaya token per run agar harga sebuah tugas tak pernah mengejutkan.
Tetap libatkan manusia pada pengecualian. Otonomi diperoleh dari kasus yang lolos gerbang, bukan diberikan di awal.