微軟(Microsoft)10 月 12 日(週一)正式發布第三代自研 AI 加速器 Maia 300,定為其產品與服務的「主要 AI 推理系統」(primary AI inference system),計劃 2027 年起部署至生產環境。微軟雲端業務執行副總裁 Scott Guthrie 稱,Maia 300 每兆瓦(megawatt)可較主流 GPU 系統多提供 40% 的 tokens;滿配 96 枚加速器下,機櫃級 token 吞吐量可達 Maia 200 的 7 倍。

技術上,Maia 300 採用 TSMC(台積電)N2P 製程,並以 chiplet(小晶片)架構把運算、記憶體控制器同 I/O 分開佈局,據 Azure 硬件團隊説法可將更多晶片面積留給運算性能。微軟指該晶片針對長上下文推理、低延遲對話及持續多步驟 agentic(自主代理)任務而設計。

前代 Maia 200 於今年 1 月發布,現已在 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 及自研 AI 模型上運行。CEO Satya Nadella 7 月向分析師指 Maia 200 每美元效能較機群內最新一代硬件高 30%。

戰略層面,Maia 100 於 2023 年推出,是微軟自研 AI 晶片之路嘅起點;Nvidia GPU 一直填滿其數據中心,亦用於訓練 OpenAI 與 Anthropic 嘅模型。微軟財務長 Amy Hood 上月於高盛會議表示,用自家晶片助其「十年利潤率改善」。Evercore ISI 分析師估計 Maia 系列到 2027 年首季約佔微軟 AI 晶片開支 10%。

模姐驗嚇貨:呢單新聞嘅關鍵唔係「40%」或「7 倍」呢啲數,而係邊個嘅數。另需注意:微軟 AI 加速器與 Google TPU、Amazon Inferentia 同 Trainium 唔同,唔係按小時對外租賃,係自家服務內部用;而訓練工作,微軟指仍與 Nvidia 及 AMD 合作。Nadella 講 Maia 200「處理 OpenAI 模型」,但冇具體資料量或版本細節;「追趕 Google DeepMind、OpenAI、Anthropic」係微軟嘅目標,屬未達成嘅自述。Microsoft AI CEO Mustafa Suleyman 喺呢個方向嘅講法,係「要由上至下做完整堆疊,直到晶片層」,強調要同自家模型共同設計一個由自己掌控嘅平台。多吉瓦級部署嘅具體時間表,微軟總經理 Alistair Speirs 亦表明要保留彈性。