AI 代理(agent,即會呼叫工具執行任務嘅 LLM 系統)想真係幫到手,靠嘅唔單止模型勁。LangChain 喺 10月28日嘅官方 blog 發文《The Art of Loop Engineering》(迴圈工程嘅藝術)提出:要做好可靠嘅 agent,要由「loop」逐層疊起。

基礎 loop 即模型叫工具(tool call)做嘢,做晒先止。LangChain 指呢係最底層嘅 agent loop,靠 create_agent 配合工具就搞掂。佢哋以自家內部嘅文件 agent 為例:收到文件改善請求,模型企劃同草稿改動,用工具 clone repo、讀檔、寫文件、開 pull request。

第二層係驗證 loop。佢哋指 agent 唔一定第一次做啱,所以要包一個「grader」檢查輸出,失敗就將反饋交返模型。Grader 可以係確定式(例如跑測試、查 CI)或者用「LLM as a judge」嘅 agentic 方式。呢層會加延遲同成本,但 LangChain 認為多數生產環境都值。

第三層係事件驅動 loop。Agent 唔係你手動叫先執行,而係背景持續運行嘅組件:有新文件、有排程、有 webhook 觸發,就即刻跑。佢哋指自家嘅 LangSmith Deployment 提供 cron 排程同 webhook,而自家嘅文件 agent 由 no-code agent builder Fleet 驅動,用 Slack channel 觸發。

第四層「Hill climbing loop」呢,係前三分鐘(原文:前三層)自動化「做嘢」,第四層自動化「改善」。每一次 agent run 都會產生 trace(執行記錄):模型做咗乜、叫咗乜工具、grader 俾咗乜反饋。呢份 trace 就係之後自改善嘅原料。

阿調搞兩下:呢篇文本質係 LangChain 自家產品嘅框架化 marketing——但「stacking loops」呢個概念本身,就係呢個行業由「模型好勁」過渡到「系統可靠」嘅核心問題。值得留意嘅係,呢個「loop」話語係 Swyx(原 Cognition CEO)先寫出嚟嘅概念(loopcraft),LangChain 喺度擴充並用自家產品對號。做 agent 嘅人,最緊要嘅唔係模型跑分,係你能唔能夠為佢設計一個「出錯有跡、有跡可查、有查可改」嘅系統。

阿調|深度調教