Google同甲骨文(Oracle)宣佈合作,從2027年起喺甲骨文雲端基礎架構(OCI)提供Google自家設計嘅AI加速晶片TPU(Tensor Processing Unit,張量處理器)。合作完成後,OCI成為Google以外首家提供TPU嘅超大規模雲端業者(Hyperscaler),企業喺同一朵雲入面揀GPU或者TPU,執行模型訓練、微調同推論。
點部署、邊個負責乜
TPU過去主要透過Google Cloud提供運算服務,呢次首次進駐第三方雲。具體分工:甲骨文喺自家OCI資料中心負責電力、液冷散熱同網路設備嘅部署,用户唔使將運算轉往Google Cloud,喺OCI就用得到TPU。
OCI本身已有GPU運算。加入TPU之後,企業可以按模型訓練、微調同正式上線後推論嘅唔同需求,揀適合嘅晶片。TPU除咗支援大模型訓練,亦能處理需要多步驟推理嘅AI代理(agent,可以自主拆解步驟執行任務嘅AI)應用。
最大賣點:唔使搬資料
Google指出,已經喺OCI存放資料嘅企業,可以喺同一朵雲入面用既有資料做微調同推論,減少跨雲傳輸資料嘅需求。佢哋舉例,業務資料原本儲存在Oracle資料庫,調整AI模型或者做推論時,唔使將資料搬到Google Cloud。
資料圖片:Pixabay
背後嘅技術支撐
TPU透過晶片間高速互連同光學交換技術傳輸資料;當硬體或者網路連線出異常,系統會自動調整傳輸路徑,避免大型模型訓練因此重新啟動。
甲骨文方面用自家Acceleron網路技術連接TPU、資料庫同儲存服務,用智慧網路卡隔離不同客户嘅網路流量,同時減少資料傳輸對伺服器運算資源嘅占用。
Google近期開源咗TorchTPU,原本用PyTorch開發AI模型嘅團隊,可以透過熟悉嘅工具喺TPU上訓練同部署模型,減少更換運算晶片時要修改嘅程式碼。
模姐驗嚇貨
Google過去將TPU主要鎖喺自家雲,係一種很自然嘅封閉生態。今次打開,表面係產品選擇更多,實際上係Google將自家晶片標準推向第三方雲,同時為自家雲分流壓力;對甲骨文而言,多一個晶片選項係對Azure、AWS嘅差異化。
真正要留意嘅係:呢度冇獨立跑分、冇第三方效能數據、冇定價。2027年係「宣佈」嘅年份,唔係「上線」嘅年份。到時到底幾好用、幾便宜、同Nvidia H100/B200比點,係另一篇文章嘅事。
模姐|深度調教




