Postman 同 AWS 分享 Agent Mode 架構經驗

Postman 同 AWS 最近喺 AWS Machine Learning Blog 分享咗 Postman Agent Mode 嘅生產架構，解釋佢哋點樣將呢個 AI 原生物件喺 Amazon Bedrock 上運行，服務全球4000萬名開發者。

Agent Mode 係乜

Agent Mode 係 Postman 嘅 AI 原生入口，涵蓋 API 測試、文件、發現同實現等流程。Postman 經歷咗11年發展，用户習慣咗透過側邊欄、分頁同開啟請求嚟揾資料，但 Agent 係直接對數據推理，唔係透過畫面導航。

架構重點

Postman 團隊發現真正嘅挑戰唔係模型品質或提示設計，而係點樣將 Agent 整合入一個成熟、有龐大功能面嘅產品。佢哋提出三個核心模式：控制工具膨脹、暴露 schema-based 讀取、將上下文而唔係能力視為主要瓶頸。

喺工具調用方面，Postman 早期傾向高度原子化嘅細小操作（例如開啟請求、更新單欄、讀取特定中繼資料），但發現真實工作流程需要長串工具呼叫，即使每個步驟都快，整體體驗都感到遲緩，因為每個動作都要返回模型先可以執行下一步。

Amazon Bedrock 嘅角色

Agent Mode 運行喺 Amazon Bedrock，提供以下能力：

  • 模型選擇靈活性
  • 地理範圍限制嘅跨區域推理
  • 依賴模型嘅零數據保留設定
  • 多層提示快取

Postman 表示呢樣令佢哋可以規模化生產工作負載，而唔使自行運營模型服務基礎設施，同時保留對吞吐量、地理處理同成本嘅控制。

隱私與安全

作為生產設計嘅一環，Agent Mode 喺執行任何修改應用程式狀態嘅操作前，要求用户批准。Postman 亦會將可用工具範圍限制喺當前任務，並選用目標化上下文。

喺數據隱私方面，Postman 使用 Amazon Bedrock Guardrails 喺個人身份資訊（PII）到達底層 LLM 之前進行遮罩，企業管理員可以在 Agent Mode 嘅護欄設定中啟用呢項功能。

對開發者嘅意義

呢篇文章為想將 Agent 由原型推進到生產環境嘅團隊提供咗實際參考，特別係喺工具設計、隱私保護同跨地域部署等方面。Postman 嘅經驗顯示，將 AI Agent 整合入成熟產品需要處理嘅唔止係模型能力，仲有產品架構、數據流動同合規要求。

阿調｜深度調教