NVIDIA 喺 Hugging Face 放開咗「Kumo Forecast」,一隻多變量時序預測模型(multi-variate time-series forecasting,即按時間軸預測多個相關變量嘅走勢)。佢用預訓練咗嘅 Transformer 骨架,再加埋佢叫 DARR(Domain-Aware Representation and Retrieval,領域感知表示與檢索)嘅「上下文增強預測」模式,將模型直接預測同喺歷史數據檢索出嚟嘅模式混合埋。模型代碼放喺 NVIDIA/Kumo-TS,權重放喺 nvidia/Kumo-Forecast,授權係 Apache 2.0。
骨架係凍結嘅,只訓預測頭
Kumo Forecast 基於 MOMENT-1-large Transformer encoder,約 3.4 億參數,加埋一個可訓練嘅「forecasting head」(預測頭)。架構上 encoder 同 embedder 嘅權重係凍結(frozen)住,只訓練預測頭——即係將預訓練嘅時間序列表示,同專門針對預測任務嘅層分開。呢個係「凍結 backbone + 輕量頭」嘅做法,同好多 LLM 下游微調同一邏輯。
兩條路:直接預測同歷史檢索
模型分兩條路走。第一條係「直接預測」:用 MOMENT Transformer 同訓練咗嘅預測頭,直接預測未來值;超過模型原生 capable 嘅長 horizon(預測範圍),有 autoregressive extension(自回歸延伸),即係將預測遞迴推落去。
第二條係 DARR 模式:喺直接預測之外,用 k-近鄰(k-NN,最鄰近)方法從歷史數據檢索相關模式,再同直接預測混合。開發者可以透過設定調整最終預測對兩條路嘅依賴比例。歷史上下文透過一個獨立嘅 context_df 參數(DataFrame)傳入,同模型嘅 input window(輸入窗口)分開。
呢個 DARR 機制有篇已出版嘅論文支持:Memory-Augmented Forecasting: Scalability and Generalization Across Temporal Domains。
可解釋:每個 horizon 有歸因
模型另附一個 model-agnostic(模型無關)嘅可解釋性框架,啟用後會產生一個 explanation bundle,包括每個預測 horizon 嘅 lag 同 feature attribution(歸因),以及 semantic-flow 診斷。重點係呢個框架唔會修改底層預測器。
點樣用
API 以 DataFrame 為主,可以設定預測 horizon,歷史上下文係可選嘅。權重放喺 nvidia/Kumo-Forecast,Apache 2.0 授權。
模姐驗嚇貨
3.4 億參數喺時序預測領域唔算大,但凍結 backbone 加輕量預測頭嘅設計,同 k-NN 歷史檢索嘅結合,係近期 RAG(檢索增強生成)思維由語言模型擴展到時序預測嘅一個實際例子。材料無載明任何獨立第三方跑分,本地可用性及實際預測準確度,留待有條件嘅讀者自行驗證。




