佢哋話乜

CoreWeave 喺 Fully Connected 大會宣佈 CoreWeave Forge,一個串起模型部署、評估同改進嘅平台。其強化學習 Rollouts 功能(現為預覽版)支持反覆「產生訓練回應 → 更新模型」嘅循環,CoreWeave 產品高級副總裁 Corey Sanders 喺 theCUBE 直播上咁講。

佢哋講「效率」具體指兩樣嘢:

  • 權重熱加載:以往模型權重每次由物件儲存(object storage)冷啟動讀入,而家改為從附近節點(peers)熱同步,減短訓練回合之間嘅 GPU 空轉。
  • 跨區域寫入:CoreWeave AI Object Storage 新增跨區域寫入,令後訓練結果可以直接寫回俾其他區域使用。Sanders 話「你寫得好似寫本地機咁,我哋當佢係全球系統。」

合作夥伴方面,You.com(經營自家網頁索引)加入 CoreWeave 夥伴網絡,為 AI 代理提供搜尋層。You.com 產品首席官 Saurabh Sharma 稱,佢哋同 Nvidia 用 RL Rollouts 喺 八小時內以 You.com 網頁搜尋工具對 Nemotron 3.5 Lightning 完成後訓練。

Sharma 原話:「如果八小時做到,呢嘢再唔係只啲前沿實驗室(frontier labs)先得。」

模姐驗嚇貨

有幾樣嘢要講清楚:

**「八小時」同「更高準確率、更低總擁有成本」係廠商聲稱,唔係獨立測試。CoreWeave、You.com 同 Nvidia 三方同喺一單交易入面,呢個「八小時」冇嘜獨立第三方覆核。

「GPU 利用率高」唔等同訓練效果好。 佢哋講嘅係基建層嘅數據搬運同加載延遲——呢啲係系統工程指標,唔代表模型能力提升。GPU 忙唔閒,同模型變得好唔好,係兩回事。

RL Rollouts 仍係預覽版(preview)。 CoreWeave 自己標明。預覽版功能喺生產環境嘅穩定性、容錯、計費都未見公開資料。

「後訓練」同「預訓練」嘅基建需求有分別,但材料冇解釋具體差異。一般嚟講,預訓練(pre-training)係由頭學語言知識,算力需求極大;後訓練(post-training)則喺已有預訓練基礎上做對齊或工具調用強化,範圍較窄。但 CoreWeave 嘅 Forge 將兩者都納入同一基建,具體資源分配點分,冇細項。

對中小企業嘅意義:如果「八小時後訓練」呢個數字成立,的確意味中小企業可以以較低成本迭代自己的代理模型,唔使買全尺寸預訓練算力。但目前只有廠商自評,冇嘜成本對照、冇獨立效能測試、冇開源可驗證。

待審

  • Forge 平台可用地區、定價、API 規格——材料未提
  • 八小時後訓練用咗幾多 GPU、嘜具體型號——未提
  • 呢個「持續後訓練」同 OpenAI / Anthropic 等「前沿實驗室」嘅訓練流程有咩實際差異——未提
  • 有冇獨立評測或客户案例(除 You.com 外)——未提