算力與部署
Hugging Face 開放 Trainium 模型支援清單 PASS 唔代表夠快
Hugging Face 推出 torch-neuronx 模型支援查詢工具，逐一講明 Hugging Face Hub 上嘅開源模型喺 AWS Trainium 上跑成唔成、用乜編譯器、生成邊幾 token。
算力與部署
算力與部署
You.com 推 Inference Router API：12 個開放權重模型、零資料保留、全美國託管
You.com 推出 Inference Router，OpenAI 相容 API 接入 12 個開放權重模型，承諾 99.9% 正常運行時間、零資料保留、全美國託管同免平台費，另外提供服務端網頁搜尋。
算力與部署
vLLM 即日支援 MiniMax-M3.1-Flash 三線 GPU 全開 長上下文讀取減到 12.5%
vLLM 宣佈對 MiniMax-M3.1-Flash 提供 Day-0 部署支援，覆蓋 NVIDIA Blackwell、Rubin 同 AMD MI350 系列。靠 MiniMax 自家嘅稀疏注意力同 NVFP4 量化，長上下文 decode 時嘅顯存讀寫減到密集注意力嘅約 12.5%。
算力與部署
哈薩克斯坦大押 GPU：AI 藍圖點樣由規劃變成落地
NVIDIA 披露哈薩克斯坦 telecom 已部署 880 塊 GPU，明年再擴兩千多塊，同時 inDrive 同小馬智行探討將無人駕駛車帶去阿斯塔納。
算力與部署
你寫訓練循環，佢管 GPU：AWS SageMaker 推出 serverless training sessions
AWS 喺 2026 年 10 月 22 日宣佈 SageMaker AI 推出 training sessions，開發者可自行編寫後訓練循環，包括自訂 loss function 同 reward signal，而 GPU 分佈、故障恢復由雲端處理，唔使自管卡。
算力與部署
NVMe 嗰個數據點樣飛去 GPU 顯存 兩層把關要分清
NVIDIA 出咗篇用 KvikIO 讀數據入 GPU 顯存嘅教學，拆解 KvikIO 同 cuFile 兩層把關：行到 cuFile 唔等於 accelerated GDS 路徑真係開咗。
算力與部署
SageMaker TTS 自動擴縮唔好再估數字 Kokoro-82M 實測兩數導出閾值
AWS 教學文：用真實 endpoint 量出 Q_max 同 T_total 兩個數，由算式推導擴縮閾值同 cooldown，取代「拍腦門」估數，避開 GPU 白開或者延遲爆 SLO。
算力與部署
講緊話要等五秒先開口？Kokoro TTS 逐句流式輸出，AI 語音代理唔再瞓渣
AWS 教 developer 點用 Kokoro-82M 語音合成模型，喺 Amazon SageMaker AI 上逐句 streaming，縮短語音代理嘅等待時間，唔使等成段文字生成完先開聲。
算力與部署
Liquid AI 推 RIPL 即時推理引擎 p95 延遲低過 vLLM 14 倍
Liquid AI 為自家 LFM 模型推出即時推理引擎 RIPL，稱喺單張 B200 上將 p95 延遲壓低。
算力與部署
八節 DGX Spark 拼到 1TB，NVIDIA 話本地都跑得起前沿模型
NVIDIA 喺 GTC Berlin 宣佈官方支援八節 NVIDIA DGX Spark 組成集群，統一記憶體擴到 1TB，聲稱可本地運行 Z.ai 完整 GLM 5.3（753B）等前沿級模型；喺八節集群跑 GLM 5.3 Flash 量到約 80 TPS。
算力與部署
NVIDIA 推出 Minerva AI 工廠嘅「監控腦」幾真？
英偉達今日推出 AIOps 平台 Minerva，聲稱可跨 GPU、網絡同儲存監控「AI 工廠」並用機械學習預測故障。目前全係廠商自述，獨立驗證仲要等。
算力與部署
AI 推理嘅隱形帳單：用户只見到幾 MB 檔案，後台竟然留低百幾倍資料
WD 內部量度：一段 8 秒 720p 影片（3.97MB）後台留低超過 500MB 相關數據。文章由 Western Digital 贊助刊出，數字要照此理解。
算力與部署
IDC：阿里雲攞45%中國汽車雲市場，連續11期第一
IDC 數據：2026上半年中國汽車公共雲市場83.4億元，阿里雲佔45.1%、收入按年加111%；千問大模型點名接入12間車企智能座艙。反骨機問：成個車間數據，係咪都跑喺同一朵雲上？
算力與部署
美國電力卡喉 NVIDIA DSX 想把電網同 AI 廠房綁成一體
據 NVIDIA 稱，美國逾 200 吉瓦項目排隊等接電，逾 3000 億美元設備積壓。NVIDIA DSX AI Factory Platform 提出由變壓站到機架層面打通電網與 AI 數據中心，並拉來 GE Vernova、Hitachi Energy、Schneider Electric 等電氣巨頭組隊。
算力與部署
Nvidia DSX POD 貨櫃化 AI 資料中心，號稱由半年縮短到兩週
GTC Berlin 2026 公佈基於 Vera Rubin 平台嘅模組化貨櫃參考設計，預先喺工廠組裝驗證，部署時間聲稱可壓縮至 14 天，配套開源 DSX OS，2027 年初出貨。
算力與部署
Meta Prometheus 每 72 GPU 留 8 備援，訓練中斷降 99%
Meta 20 日披露俄亥俄州 Prometheus 超級叢集細節：超 11% GPU 處死或備援狀態，單 NVLink 域 72 顆只用 64 顆，一年工程令訓練中斷由每 8 千 GPU 每日近千次降至約 11 次，目標再降至約 2 次。
算力與部署
單台 Trainium 開六十四個 process：用 torchtitan 三種方法訓練 Qwen3
AWS 刊出 torchtitan 技術指南，喺單台 trn2.48xlarge 上，用 Hugging Face Transformers v5、torchtitan 自帶 Qwen3、NKI 專家混合 kernel 三種方法訓練 Qwen3，同一個 torchrun 啟動。
算力與部署
VocabX 改詞表 唔改底模推理成本減77%
Dharma-AI 以 VocabX 方法為葡文評卷模型重組詞表，維持 Qwen3-4B 底模、數據同訓練方式不變，量度推理成本減少 77%。
算力與部署
Trainium 慢喺邊度？TorchNeuron 教你點樣睇硬件效能數據
AWS 喺 Hugging Face 發 TorchNeuron 性能分析教學第一篇，教點用 torch.profiler 同 Neuron Explorer 跟 trace 入 Trainium 晶片，拆清邊個操作食硬件時間。
算力與部署
產品互打、雲端牽手：OpenAI 模型進 Google Cloud，三大雲通路齊備
10 月 21 日 OpenAI 同 Google 宣佈，未來數週內 GPT-6 Astra 同 Codex 將入 Google Cloud Model Garden，可經 Marketplace 購買並計入既有雲端消費承諾，繼續喺 Google 生態嘅企業唔使另簽直連合約。