Dell 安保老細:AI 代理要畀多少自主權?先寫好護欄先放心

2026 年 10 月 27 日,Dell Technologies 首席安全官 John Scimone 喺 AI Cybersecurity and Resilience Summit 接受 theCUBE 主播 Dave Vellante 訪問,主題係點樣喺企業交付工作俾 AI 代理(AI agent,即可以自主執行任務嘅軟體系統)而唔失控。

設計時就要做到位

Scimone 講,而家係「做好嘅最好時機」。企業而家設計嘅代理係會運行好多年嘅嘢,安全同韌性要喺設計階段就置入:

「喺設計階段係 always the best time to get security done well... Security resilience by design for agentic is a huge opportunity.」(原話)

佢指,傳統災難恢復(disaster recovery)處理嘅係山火、颶風、停電呢類自然災害,但而家更可能發生嘅係覆蓋整個數位生態系統嘅大規模網絡攻擊。代理加入咗新嘅依賴:交俾軟件做嘅嘢,軟件一停就冇嘢做。

「What happens if these agents aren't available? ... if our agents go down, our work is not happening.」(原話)

調查數字:19 間用緊,冇一間放手

theCUBE Research 嘅 Krista Case 主導咗一項調查,覆核 25 位企業技術及安全負責人。結果:

  • 19 間公司有自主代理喺生產環境運行
  • 冇一間允許代理喺冇人工核准嘅情況做高風險動作
  • 只有 4 間曾經測試過 AI 代理事故場景

Scimone 講:「It doesn't mean doing it willy-nilly... It means being very thoughtful around where can't you fail, putting deterministic guardrails in place … and letting the business run. Right now, I'm seeing too much caution in the space on that front.」(原話)

Dell 內部點做

佢話 Dell 內部對每個代理設:

  • 嚴格嘅身份同存取控制(identity and access control)
  • 廣泛嘅日誌記錄同決策可追溯性
  • 擴充網絡韌性工具

Dell 亦已加入 OpenAI Group PBC 嘅網絡防衞集體行動呼籲。

Scimone 同時警告,攻擊者已經用咗 AI 好多年,但尚未全規模部署。佢話呢個轉變會喺「未來幾個季度,唔係未來幾年」發生。

有限自主 = 更強韌性

Vellante 指出調查中一個發現:畀代理「有界自主權」(bounded autonomy)嘅機構,恢復準備度比完全依賴人工核准嘅機構更強。Scimone 嘅結論係,事前設計好護欄,令公司可以承擔更多風險,唔係更少。

阿調搞兩下

19 間用緊、冇一間放手、只 4 間測試過事故場景呢三個數,本身就係最大嘅護欄。邊間公司想俾代理做嘢但又唔畀佢碰高風險嘢,但又冇測過佢出事點執手尾?呢個唔係謹慎,係未準備好。Scimone 話「太多謹慎」,我覺得好真——但前提係你設計到護欄,唔係只靠人工審批當保險。Dell 呢個案例值得留意嘅地方,係佢自曝內部只係按自己標準做,同業界大部分公司一樣,都係先有規矩先有權限。


阿調|深度調教