AI 代理要開工,隔離係咪真係有?

AI 搜尋服務商 Perplexity 呢個星期宣佈,將自家 AI 代理(agent,即會自己執行任務嘅 AI 系統)沙箱平台 SPACE(Sandboxed Platform for Agentic Code Execution)開源,放喺 GitHub 俾其他開發者用。SPACE 原本係俾佢哋自家 AI 代理服務 Computer 用,今年 7 月起已取代之前嘅商用沙箱。

設計上,SPACE 用 Firecracker 微型虛擬機器(microVM,一種超輕量嘅虛擬化技術)做底層。每個 AI 代理喺獨立 VM 入面執行程式碼,有自己的作業系統同可寫入檔案系統,同主機隔離。由沙箱外部嘅控制層負責建同管 VM,同時管網絡存取同平台憑證——即 AI 代理可以攞到授權服務,但敏感憑證唔會直接放喺沙箱入面。呢個設計就係針對「AI 跑咗唔明嘅 code,會唔會順手搞掂你成台機」呢個問題。

108 次逃逸測試,0 次成功——但中間有得搞

Perplexity 話研究團隊對 SPACE 做咗 108 次 VM 逃逸測試,冇發現成功個案。但佢哋亦話,測試期間發現 AI 模型曾繞過部分網絡存取限制,相關問題已修復,後續測試確認唔再成功。

呢個細節值得留意:安全邊界唔係一次砌好就夠,而係要不斷被「試攻」。模型能力持續進步,邊界都要跟住升級。108 次測試冇成功,唔代表冇漏洞;代表係呢輪測試嘅範圍。

授權同生態

原始碼用 Apache 2.0 授權,有部署説明同 API 文件。雲端方面,Akamai 已喺自家平台測試同推出 SPACE,CoreWeave 提供部署指引,Crusoe 則同 Perplexity 合作將 SPACE 納入其 AI 服務產品組合。

阿調搞兩下

AI 代理喺呢度由「會講嘅聊天盒」升級做「會開工嘅黑盒」,沙箱就係呢個過渡嘅保險箱。Perplexity 將自家在用的底層開源,對整個 AI 代理生態係正向嘅——但「開源」唔等於「自動安全」。用户嘅責任係搞清楚:邊個管 VM、邊個管憑證、邊個攞到 network。108 次測試數字好漂亮,但安全邊界同模型能力係軍備競賽,呢個數字好快會過時。跟住睇後續,尤其係其他開發者部署後有冇再出事故。

阿調|深度調教