NVIDIA 推 AICR v1.0 GPU 集群配置首次有版本鎖定配方

GPU 集群跑喺 Kubernetes(開源容器編排系統)上,嘅話,成個配置涉及主機內核(host kernel)、GPU 驅動、容器運行時、網絡、儲存、device plugin、operator、排程器同工作負荷框架等一打幾十個組件,各係各嘅版本週期。NVIDIA 今個月初(2026 年 10 月 6 日)喺技術 blog 發布 AI Cluster Runtime(AICR)v1.0,將呢啲「邊個版本配邊個先得」嘅知識,由原本散落喺各種驗證系統、部署腳本同運維 runbook 嘅經驗,標準化成可共享、可驗證嘅「配方」(recipe)。

配方可做嘅同做唔到嘅

AICR 嘅每個配方鎖定一套可互相兼容嘅組件版本組合,然後渲染成 Helm、Argo CD、Flux 或 Helmfile 嘅部署配置。NVIDIA 技術 blog 指,同一套配置喺一個服務、一啲 GPU 世代或一個 Kubernetes 版本行得通,換另一個就可能靜默失敗;而組件升版可能打破原本正常運作嘅組合,部署後追溯版本衝突「緩慢兼容易出錯」。

v1.0 設立一套穩定嘅兼容契約,涵蓋 CLI、REST API、Go SDK、bundle 佈局同 artifact schema,意味 integrator 可以喺 v1.x 兼容政策下根據 AICR 公開介面開發。每個配方帶由測試硬件出具嘅簽署驗證證據(signed validation evidence),透過公開驗證 dashboard,運營者可按服務、GPU、作業系統、工作負荷意向搜尋配方,查閲狀態同已出版嘅證據。

不過要留意:NVIDIA 技術 blog 自己都講,「每個組件安裝成功」唔代表集群達到配方嘅目標配置。安裝成功唔會確認 gang scheduling(多進程/多節點聯動排程)同 accelerator discovery(加速器發現)等必要能力有冇運作,亦唔會確認實測結果達到配方嘅效能閾值。呢啲係 AICR 嘅限制,佢鎖定配置,但唔保證實測結果。

呢個同「開源/開放權重」唔係同一件事

呢度要講清楚:AICR 係 GPU 集群配置規格同工具,唔係模型權重(weights)嘅公開。佢鎖定嘅係配置組合,唔係任何模型參數。呢度無所謂「開放權重同開源」嘅分別,因為佢唔發布任何模型。

生態同貢獻者

AICR 過去六個月由少量配方擴展至涵蓋主要 Kubernetes 服務同 NVIDIA 目前加速器產品組合,以 deployer-neutral(部署工具中立)bundle 提供。Pulumi Labs 透過 infrastructure-as-code provider 暴露 AICR,Mirantis 嘅 k0rdent integration 將 AICR 包裝做多集群管理。NVIDIA 技術 blog 稱,AICR 現超過 100 名獨立貢獻者,約半數來自 NVIDIA 以外。

模姐驗嚇貨

NVIDIA 自己係賣 GPU 嘅,亦係寫部署工具嘅,呢個配方庫嘅獨立性問題值得留意:驗證證據係由邊個hardware出具、由邊個審核,呢度係用户該問嘅問題,呢篇 blog 未有細講。對要喺自家集群部署大模型嘅團隊而言,呢個配方庫有冇覆蓋你嘅 GPU 型號同服務組合,直接決定佢對你有冇用。

模姐|深度調教