Google Cloud 同 NVIDIA 公佈:Vera Rubin 晶片嘅雲端實例 A5X 下月正式可用(general availability),並計劃擴展到歐洲。呢個係將 Vera Rubin NVL72、ConnectX-9 SuperNIC、Google Cloud Virgo Network 同第四代液冷技術打包入 Google Cloud AI Hypercomputer,主打訓練、推論同大規模強化學習。

第一個用家係 AlphaGo 嘅「後生仔」

接觸 A5X 嘅首個客户,係由 AlphaGo 創始人 David Silver 喺倫敦創立嘅 Ineffable Intelligence。佢哋話要用呢個平台發展所謂「superlearner」系統——持續從經驗中學習。David Silver 喺公告表示,建立 superlearner 需要「大量算力,以及生成經驗同用經驗訓練之間嘅緊密連接,令 agent 每一次改進都可以迅速影響佢嘅下一次經驗」;Vera Rubin 嘅 Vera CPU 同 Rubin GPU 之間、以及機架內 Rubin GPU 之間嘅高頻寬連線,令佢哋可以「推高強化學習研究嘅規模同野心」。

另外,倫敦嘅營銷傳播集團 WPP 喺 A5X 實例上展示了佢嘅創意 agent 參考架構,使用 NVIDIA Nemotron 模型同 OpenShell(NVIDIA 為安全 AI agent 提供嘅沙箱框架)。呢個 agent 將對話請求轉成多步驟創意工作流程,例如影片生成、提升同重新風格化,執行前有真人審批。WPP 初期測試話,原本需要多節點集群(multi-node cluster)處理嘅工作量,喺單一 A5X 實例上已可跑——呢個係廠商自評,未有獨立數據核實。

規模同部署

Google Cloud 話計劃將 Vera Rubin 基礎設施擴展至多個場點、最多 96 萬張 Rubin GPU。同時,佢哋話會成為首批提供 NVIDIA Confidential Computing(機架級別)嘅雲端供應商,覆蓋 A4X Max(GB300 NVL72)裸金屬實例;G4 VM(RTX PRO 6000 Blackwell Server Edition)嘅 Confidential Computing 亦已全面可用,客户包括 Vertebrae、Polaris Cloud、Confidential Core AI,用於對話私隱、可驗證代理執行同企業智能。最後佢哋亦提及正探討 NVIDIA DSX MaxLPS 能力,以優化部署能效。

模姐驗嚇貨:呢單公告嘅主角唔係某款模型跑分,而係「算力賣咗幾多張卡」嘅計數——96 萬張 Rubin、首個客户、Confidential Computing 開放到幾多層。對讀者真正有用嘅係兩樣:第一,Vera Rubin 喺雲端嘅推出時序(下月 GA、歐洲擴展);第二,Confidential Computing 開放到邊個產品線,因為呢個決定咗唔係自己嘅基礎設施都跑代理系統,模型同資料幾時先算「有底線」。WPP 嘅「單機架代替集群」數字來自廠商示範,冇獨立測試,要留意。

模姐|深度調教