AWS 上嘅客户案例

呢篇係 AWS Machine Learning Blog 今上嘅一篇 Exowatt 客户案例，內容講佢哋點樣用 Amazon SageMaker AI 嘅 serverless 微調功能，為自家太陽能設施嘅能源管理系統（EMS）訓練兩套任務特定模型，部署喺邊端（edge）同雲端。

先講清楚邊個係邊個。Exowatt 係一家美國公司，主力產品 P3 係用光學鏡頭收集太陽能，存入長時熱能電池，再用熱機發電，直接為 AI 數據中心供電，唔使排多年嘅電網接入隊。佢哋喺各營運點位部署咗一堆 AI agent，負責監視同分派即時警報，好多點位喺邊端、無網或間斷連線嘅環境。

點解唔直接叫 GPT 做

案例講到三個原因：

第一，任務太專責，依賴自家硬件同數據，通用前沿模型未針對呢套 EMS。 第二，邊端點位冇 GPU、好多冇網，靠雲上嘅前沿模型，一斷線就冇覆蓋。 第三，成本：上落千個點位，每一條警報都 route 去前沿模型，賬單睇唔完。

Exowatt 就轉去做微調（fine-tuning，喺預先訓練嘅模型之上，用特定任務數據再做一輪訓練）。

「49 倍」呢個數，邊個話嘅

呢個數喺 AWS 自己嘅 blog，冇獨立第三方評測，冇數據集、冇提示設定、冇樣本量、冇基線 frontier 模型嘅名稱同版本。呢度要標明係廠商聲稱。

案例講到 Exowatt 之前嘅微調流程係先揀一個 open-weight 模型、build container、寫 custom training recipe，每一步都要揀 GPU instance type，仲要等容量。用咗 SageMaker serverless model customization 之後，佢哋話呢個 pipeline 可以由「成個月」壓縮到「數天」。

阿調搞兩下

呢篇嘅真正新聞唔係「太陽能公司打敗 GPT」，而係 AWS 又係又用一個客户案例去印證自己嘅產品：Exowatt 呢個 solar-energy startup，嗰個「49× 低價」，唔會有一行係同自家 SageMaker 無關。呢個就係「金主」同「被調教」嘅區別：一個畀錢買產品，一個幫你寫 case study。

對讀者嘅實際提示：如果你公司面對類似的「窄任務＋邊端＋高頻」場景，呢個 pipeline 思路（任務特定微調而唔係通用大模型）係值得睇嘅。但「準確度過前沿模型」呢句話，要問邊個 frontier、邊個 benchmark、幾多樣本。冇答案之前，當廠商行銷就好。

阿調｜深度調教