微軟10月19日宣佈推出新一波AI代理(AI agent,可自行執行任務嘅AI工具)防護機制,主張企業唔該把代理當「可能帶來內部風險嘅行動者」——就算冇被外部駭客入侵,代理本身都可能因為判斷錯誤、或者收到惡意輸入而做錯嘢。呢個係微軟對AI代理安全嘅核心立場。

呢批功能分三塊。第一,Dynamic Permissions:按任務需求同執行期間,先畀代理「最小必要權限」,一旦任務變化或者做完,權限就縮減或者撤銷。第二,Dynamic Agent Risk:持續觀察代理嘅行為同環境訊號,動態判定風險。第三,Dynamic Conditional Access:根據上面嘅風險判定去調整存取控制,包括限制資料存取、阻擋特定操作、要求人工核准,必要時直接停止代理運作。

除咗呢三塊,微軟同時將Microsoft Defender for Endpoint支援嘅「用户本機AI代理」類型擴至60種,新增Claude Code、OpenAI Codex同GitHub Copilot等工具。呢三個編程工具同時出現喺同一份清單,係呢次更新入面最實際嘅細節。

微軟開刀AI代理:權限縮到最小、出錯就收權 圖片:Coolcaesar/CC BY-SA 4.0/Wikimedia Commons

微軟亦為今年7月發表嘅網路防護系統Project Perception擴充AI代理防護能力,加入Guardian Agents同Playbooks功能,負責調查代理風險變化、協調防護措施同即時應變,構成結合身分、端點、網路、雲端同執行環境等多類訊號嘅防護機制。微軟同時強調,安全政策同重要核准權仍由人員掌握。

值得留意,呢次更新冇提及任何具體事故、漏洞或者被駭案例作背景,微軟嘅敍事係「防患於未然」,強調代理能力持續提升之後,權限同監督要同步跟上。

阿調搞兩下:呢個框架有意思嘅地方,係微軟冇將「誰入侵咗代理」同「代理自己搞錯事」分開處理——兩者都當作風險。對打工仔嚟講,真正要問嘅係:你老細開唔開呢啲功能,你嘅資料邊個有權讀,代理被收權嗰陣你做乜,同埋呢個「人工核准」嘅掣,最終係唔係老細按,定係你自己按。

阿調|深度調教