HPE 出錢寫稿:計 token 不如計晒晒出咗幾多嘢

呢篇係 HPE 贊助、喺 MIT Technology Review 刊出嘅文章,唔係獨立報道。佢想講嘅係:當 AI agent 做編程,唔係答一次就收工,而係 plan、寫 code、跑測試、再重複改錯,一個任務用嘅 token 可以係基本 chat prompt 嘅 10 到 50 倍。越有用嘅 agent,呼叫嘅次數越多;按 token 計費,最有用嘅流程同時變得好貴。

佢舉咗三個數:Uber 據報喺 4 月已用盡 2026 全年 AI 預算(因為擴大使用 Claude Code);GitHub Copilot 由套餐轉做按量 metered credits;Gartner 預測 AI 編程 token 成本喺 2028 年會超過工程師平均年薪。

文章嘅核心主張:唔好計「每個 token 成本」(只量度消耗),要計「每個合併 PR 成本」——AI 輔助開發總成本除以通過審查並合併嘅變更數量,並同時追蹤 rework 同缺陷,確保平嘅變更唔係靠品質差換嚟。

點樣降低成本?佢話有兩招:

一、將模型配對任務。 唔係每步都要最強模型。困難 planning 同新穎推理用 frontier model;code generation、寫測試、重複 refactor 可以 routing 到自行營運嘅開放權重(open-weight)模型。佢引用 benchmark 指「領先開放權重模型喺部分任務可接近 frontier 表現」,但同時話呢唔代表喺每個 repo/workflow 都等效,要求你拿自家 code、測試同 acceptance criteria 去評估先再派 production work。

二、改變重複使用嘅經濟賬。 租用推理每次呼叫都加錢;擁有本地容量,大部分成本喺前端投入,用得越多單次越便宜。佢亦強調擁有容量嘅非財務價值:敏感 code 留喺本地,控制權喺你手。

阿調搞兩下

講到好聽,呢篇嘅落點好清楚:HPE 賣嘅正正係本地硬件。文章由「成本」講到「擁有容量」再講到「control over sensitive code」,一步兩步三步,最終指向「買我嘅嘢」。呢種 sponsored content 要明眼睇:佢提供咗一個真實嘅經濟問題(agent 燒 token 好快),但解法好順路。

「每個合併 PR 成本」呢個指標本身好合理,同賣乜硬件冇關係。但「開放權重模型可以喺部分任務接近 frontier」呢句引用 benchmark,冇列出邊個 benchmark、邊個模型、點樣測——典型嘅贊助稿手法:方向對,細節空。

真係想計清楚 AI 編程賬,呢個 metric 值得試。但試之前,問句好重要:你嘅老細點樣衡量 agent 嘅生產力?計 token 消耗,定計合併晒嘅 PR?

阿調|深度調教