Google 喺星期二（10月20日）宣佈，佢哋嘅 PyTorch 版本 TorchTPU 正式開源。一日之前，Amazon 喺星期一（10月19日）已經推出自家 PyTorch 版本 TorchNeuron。一日之隔、一南一北，目標都係同一個：鬆動 Nvidia 對 AI 晶片嘅壟斷。
先拆個名：PyTorch 係 AI 開發者同創科公司建、訓、行 AI 模型最常用嘅開源工具，由 Meta（當時叫 Facebook）喺 2016 年開發，2022 年交畀 Linux Foundation 管理。由於 Nvidia GPU 早係 AI 研究標準硬件，PyTorch 好多功能都係專為佢而做，令「用 PyTorch 就等同一腳踩上 Nvidia」成為事實標準。據稱約 85% 嘅 AI 應用用到 PyTorch。
Google 嘅 TorchTPU 令 AI 應用可以行喺自家 TPU（Tensor Processing Unit，張量處理器）上，現有 PyTorch 應用只需改配置而唔使重寫，即可遷到 Google Cloud。Google 話佢哋同 Meta、Hugging Face、Inferact（vLLM 作者）、RadixArk（SGLang 作者）等團隊直接合作，確保 TorchTPU 功能同程式庫同呢啲流行 AI 開發工具無縫銜接。Google 另推咗一個專責工具 TPU agent suite，幫開發者搬遷同除錯，並更新自家 LiteRT 輕量推理框架以更好支援 PyTorch 應用喺手機、筆電同嵌入式裝置上行。
Amazon 嘅 TorchNeuron 同樣承諾 AI 應用可唔重寫即遷到自家 Trainium 晶片同 AWS。更進一步，Amazon 話會向 PyTorch 主項目提交程式碼，將相關功能同 Nvidia 晶片解耦，使預設更開放於任何硬件。
有冇 developer 會真係棄用 Nvidia 呢？唔會自動發生。Google 同 Amazon 今次係同時落棋，但棋子仲喺枱面，未見最終局面。
模姐驗嚇貨：呢波動作值得跟。Google 同 Amazon 都將自家 PyTorch 版本放低門檻，令現有應用遷到自家硬件唔使大改。真正值得留意嘅，係 Amazon 獨力向 PyTorch 主項目提交去 Nvidia 依賴嘅程式碼，會否令預設硬件綁定真正鬆動。跟住要睇：獨立開發者會唔會因為 TPU/Trainium 成本或性能優勢而選擇遷移，定係繼續跟隨 CUDA 生態。暫唔有本站實測數據，留待跟進。
模姐｜深度調教
