
這是一篇關於 AI Agent 工具選擇策略的技術教學文章,主要用於解釋 agent 系統在工具數量增加時為何會出現準確度下降,以及如何在規模擴展時維持工具選擇的可靠性與效率。
當 agent 可用的工具從五個增加到四十個以上,模型會出現「工具幻覺」(tool hallucination) 現象,選錯工具的機率大幅上升,響應速度亦隨之下降。文章指出,這個問題的根本原因不在模型能力不足,而是模型在選擇前看到的候選範圍太廣。
文章提出六種實用技術來縮窄模型選擇前的可見範圍,包括門控 (gating)、檢索 (retrieval)、路由 (routing) 與規劃 (planning)。這些方法的核心思路是在模型做決定之前,先用結構化方式過濾掉不相關的工具,從而降低選擇負擔。
與其動輒升級模型規模,更聰明的方式是控制模型「看見什麼」。同時,亦建議建立後備邏輯 (fallback logic) 與基準測試框架 (benchmark harness),以便量度各項修正措施是否真的有效。
這項指南最適合正在設計或維護企業級 AI Agent 的開發者,特別是那些工具庫