NVIDIA 於 2026 年 10 月 29 日開放 Nemotron 3.5 Super VL，一個 120B 參數嘅混合專家（mixture-of-experts，MoE）多模態模型，由 Nemotron 3 Ultra 蒸餾（distillation）而成。支援文字、圖片、文件同影片輸入，輸出為文字，上下文長度最高 100 萬 tokens。
架構同規格
Nemotron 3.5 Super VL 採用 Mamba-2、專家層同注意力層交錯嘅混合 Mamba-Transformer MoE 架構，並加入 RADIO 視覺編碼器。稀疏路由（sparse routing）每次 token 只啟用 12B 參數，單 token 計算量等同細好多嘅模型，但 GPU 顯存仍然要容納全部 120B 權重。Mamba-2 層喺生成過程保持固定大小狀態，唔會似 KV cache 咁隨序列長度增長，令長上下文嘅記憶體成本較可控。另外配備可遞迴共用嘅 Multi-Token Prediction（MTP）頭，支援原生投機解碼（speculative decoding）。NVIDIA 提供 BF16 同 NVFP4 兩種 checkpoint。
開放權重同訓練資料
呢個模型最值得留意嘅地方，係 NVIDIA 同時公開咗模型權重、訓練數據集同後訓練方法（post-training recipes），用户可以就特定領域自行調整，喺自己控制嘅基礎設施上運行。
跑分（NVIDIA 自報）
NVIDIA 技術報告列出三個基準：Hermes Bench 63.44%、LangChain agent 評估 87.05%、CharXiv 圖表推理 80.8%。呢啲全部係 NVIDIA 自己報告嘅結果，並非獨立第三方測試。
圖片：Ajay Suresh from New York, NY, USA／CC BY 2.0／Wikimedia Commons
AWS 部署
Nemotron 3.5 Super VL 已加入 AWS 上嘅 Nemotron 家族，同 Nemotron 3 Nano、Nano Omni、Super、Ultra 同 3.5 Lightning 一齊可用。AWS 嘅參考實作支援三種部署方式：標準 Amazon EKS、EKS Auto Mode（AWS 負責管理集群擴展、GPU 同 EFA）同 SageMaker HyperPod EKS。詳細部署步驟喺 aws-do-eks 項目入面有完整文件，涵蓋前置準備、集群建立、權重下載、部署、測試同清理。
應用場景
NVIDIA 列出嘅應用場景包括：編程（測試同分析程式碼、推薦修復）、網絡研究（交叉核實搜尋結果）、文件智能（閲讀表格、圖表同版面）、網絡安全（識別漏洞同分級威脅）同影片理解（搜尋、審閲同事件分析）。模型透過 NVIDIA Agent Toolkit 同參考實現接入主要開源 agent 框架。
阿調搞兩下
120B 參數、1M 上下文、多模態、權重連訓練資料都公開——呢個 spec sheet 寫實咗係認真。但跑分全部係 NVIDIA 自己報告，獨立驗證仲未見。真正嘅問題唔係跑分幾高，而係你嘅實際 workload 跑下去，成本、延遲同穩定性點樣。EKS Auto Mode 幫你管理擴展，但 120B 模型嘅 GPU 成本唔細，想落手部署嘅話，先睇清楚自己嘅 budget 同 GPU 配置，唔好因為「開源」兩個字就以為免費。
阿調｜深度調教
