算力與部署
中國超算網調價：0.1元5000萬token，開發者試錯成本再削一刀
國家超算互聯網推出「MaaS 特惠活動」：新用户可0.1元攞5000萬 tokens，訂閲用户喺指定夜間時段免費用 Auto 模型。算力普惠，真係降本定係引流？
算力與部署
算力與部署
AWS 出預製 Ray Train DLC，EKS 上面微調模型唔使 build image
AWS 發表 Ray Train DLC，內建完整 CUDA 到 EFA 棧，喺兩部 g6.12xlarge 上面用 FSDP 微調 Qwen2.5-1.5B，全程零自建鏡像。
算力與部署
CUDA 13.4 唔再俾個 workload 偷食 GPU 切塊仲可鎖死記憶體
NVIDIA 喺 CUDA 13.4 加入透明記憶體邊界同時間共用模式，配合開源 gpu-fractioning operator，令 K8s 集群可以按分數分配 GPU，每個 Pod 只看自己嗰份。
算力與部署
SageMaker 訓練快車：SOCI 索引令開機由幾分鐘縮到幾秒
AWS 為 SageMaker 訓練同處理工作加入 SOCI 索引，容器影像由「全個下載先開機」改為即時撿需要嘅檔案，背景慢慢流其餘，開機由分鐘級縮到秒級，GPU 空置時間最多減少九成。
算力與部署
太陽能 AI 金主 Exowatt：用 SageMaker 微調，稱準確過大模型、成本低 49 倍
AWS 今上嘅客户案例講 Exowatt 點樣用 SageMaker serverless 微調，訓練咗邊端同雲端兩套任務特定模型，專責太陽能警報分派；「準確過前沿模型、成本低 49 倍」係 AWS 自己嘅數字，唔見獨立評測。
算力與部署
124B 模型跑喺咗部 Spark：NVIDIA 話 3 招搞掂推理速度
NVIDIA technical blog 拆咗三個 MoE 推理優化——Humming kernel、輸出層 FP8 量化、多 token 預測——喺 DGX Spark 上跑 124B 參數嘅 Ling-3.0-flash，亦罕有承認組合起嚟反而可以 slower。
算力與部署
你教 AI 記事，老細教你再讀一次？Bedrock 開 OpenAI Prompt Caching
每一 round agent 開工，成個上下文都要重新讀一次，你俾錢。AWS 而家喺 Bedrock 上面支援 OpenAI 模型嘅 prompt caching，令 agent 唔使再當 Groundhog Day。
算力與部署
NVIDIA 推 Minerva AI 運維平台 GPU 訓練中心唔再用人手逐間看板
NVIDIA 喺技術博客透露 Minerva 係一個 AI 原生 AIOps 平台，用動態知識圖譜同機械學習把分散喺不同團隊嘅遙測數據關聯，針對「灰色故障」做根因分析，目標係保住 GPU 有效工時。
算力與部署
GPU 成百上千張一齊跑，AI 廠落咗自修復
NVIDIA 出 Mission Control 2.5，自主恢復引擎擴至 Kubernetes 工作負載，配合 Run:ai 排程，目標係把「出事先救火」變成「自動修復」。（示意圖）
算力與部署
KV Cache砍九成九 呢開源模型喺單張卡上512條線長推理
岩芯矩陣聯同港科大、CMU 開源 EdgeRock-4B：256K 上下文 KV Cache 固定 72 MiB，較源模型減 99.1%。
算力與部署
DeepSeek 新近開源 DeepInfer 推理框架 AI 編寫嘅算子 ForgeKernel 同週登上兩榜
同一個模型、同一塊晶片，換一套更好嘅算子，有時性能可以差到幾倍。AI 寫出嘅算子 ForgeKernel 同 DeepSeek 開源新框架嘅同一週，即登上兩個評測榜首。
算力與部署
清華開源 AKV：唔再摘要歷史，改係重新擺 KV Cache
清華大學研究團隊推出基於 SGLang 嘅 KV Cache 服務系統 AKV，用「丟棄同重新擺放 KV Cache」取代傳統嘅摘要做法，喺 4 個 agent 基準測試上平均慳咗 27.7% 成本。
算力與部署
通用引擎追埋專有引擎 vLLM 喺 GB300 機房跑 DeepSeek-V4.1-Flash
vLLM 公佈喺 GB300 NVL72 機房用 P/D 分離同 Wide-EP 服務 DeepSeek-V4.1-Flash，同 DeepSeek 自家引擎 DeepInfer 比 decode 差距 6% 以內。以下為 vLLM 自家數據，非本站實測。
算力與部署
GLM-5.3 跑喺16塊H200 拆token唔拆head 長文上下速翻1.7至3.2倍
vLLM 喺16塊 H200 用 PCP、DCP 同 Hybrid HiSparse 分開 prefill 同 decode，做到 1M token 上下文，AgentX 長文測試逐用户速度比數據平行部署高 1.7 至 3.2 倍（vLLM 自測）。
算力與部署
Dell指全球80% token三個月內轉由開放模型生成 成本驅動混合式部署
Dell銷售副總裁Dufresne喺紐約Symposium指，token經濟學急變令企業重新定價AI投資；記憶體供需缺口令成本前景複雜化。
算力與部署
TensorRT 11.1 推自動調優 排程決策逐模型試味
NVIDIA 喺技術部落格刊兩篇文章，介紹 TensorRT 11.1 嘅 Global Performance Tuner：將不同編譯策略拆成可搜尋嘅編譯路徑，按模型自動揀最快嘅排程，同時守住精度門檻。
算力與部署
科大訊飛1024開發者節 星火X2.6、星辰TaaS平台同Agent OS一次過推出
10月22日科大訊飛喺北京國家會議中心舉行2026全球1024開發者節，董事長劉慶峰發布星火X2.6、星辰TaaS平台同SparkAudio 1.0；訊飛開放平台喺同期發布Agent OS。
算力與部署
改 SageMaker endpoint 就撞 wall？用 CDK construct 搞掂自動伸縮
SageMaker AI 實時 endpoint 改咗 instance 或者環境變數，CloudFormation 部署就失敗。AWS 技術博客提供一個 CDK construct，用三個 custom resource 自動 deregister 同 register auto scaling，唔使人手。
算力與部署
一張 RTX 卡跑實時世界模型，中國團隊攞走 NVIDIA 大獎
重慶達瓦科技嘅 Scenes AI 以「更新世界狀態」取代「逐幀重畫」，喺 NVIDIA 創業企業展示攞下卓越企業獎，輸入係真實鏡頭畫面。
算力與部署
OpenAI 話 ChatGPT 服務過 10 億用户 storage 讀速提 12 倍
OpenAI 今期（2026-10-23）技術文章講咗點樣將內部系統 Habitat 擴容，靠多租户架構、全球快取同 Azure Cosmos DB，將 ChatGPT 讀取速度提升 12 倍。