數據中心嘅電荒唔係遙嘅事。到 2030 年，料有約 945TWh 電力要用嚟滿足 AI 嘅需求，而國際能源署（IEA）認為呢個數目約等於日本今日嘅總用電量。供電壓力避唔開，業界嘅主流應對，一直係死守硬件：開發更高效嘅 GPU，再從日漸緊張嘅電網多搞幾份供電。但係咪真係值？最省力嘅一招，其實係減少部電腦要做嘅嘢、又或者叫佢啱時間先做。
數據中心嘅電費結構，大約六成係伺服器本身，散熱則由高效嘅超大型（hyperscale）站點嘅約 7%，到較差嘅企業設施嘅三成以上。Uptime Institute 嘅 2025 調查顯示，平均用電效率（PUE，Power Usage Effectiveness，量度散熱同供電系統有冇白費）連六年幾乎冇變——但 PUE 睇唔到伺服器上面跑嘅軟件，究竟有冇喺做正經嘅嘢。
密歇根大學電腦科學及工程博士生 Jae-Won Chung，同埋 ML.Energy 團隊嘅研究，就正正打喺呢個位。佢哋將計算系統睇成一層層嘅「疊」（stack）：最底係硬件，上面先至係系統軟件、演算法、應用。Chung 話硬件係最難搞嘅一層——晶片慢、貴、換唔起——但上面三層改起嚟容易，效率改進仲會複利疊加。佢自己嘅 Perseus 訓練優化器，識揾出大模型訓練任務入面「工少」嘅部分，再將佢哋放慢，好使同「工多」嘅部分齊頭齊尾做完。結果：訓練能耗最多省三成，吞吐量同硬件都冇改。佢哋對阿里 Qwen 3 235B A22B Thinking 模型嘅測試顯示，以較低精度嘅 FP8 格式跑推理，相比 bfloat16 版本喺解題任務上少用三分一電。
呢啲唔係小修小補。Nvidia 嘅 Blackwell 平台亦有自己嘅電力配置（power profiles），由 GPU 運算同記憶體頻率、電力上限、NVLink 狀態到快取設定，全部按工作負載微調。Nvidia 相信呢套方法最多慳 15% 電，同時保住九成七或以上嘅整體性能，俾電力受限制嘅設施可以開多啲 GPU，吞吐量最高上調 13%。
SHI 數據中心基礎設施業務發展經理 Chetan Visrolia 指出，最明顯嘅浪費往往係支援舊代碼嘅舊有（legacy）設備：「呢個永遠係最容易摘嘅果實，喺任何數據中心都揾到，因為佢係成層樓最嘈嘅機架。」雲端實例可以調成更合理嘅尺寸，重複用嘅 AI 提示（prompt）可以存入快取（cache）而唔使即時重算，而將日常請求交俾小模型處理、大模型留俾難題，都係有得慳嘅。
模姐驗嚇貨：呢篇嘅核心係一個被低估嘅事實——PUE 六年冇動，唔代表冇空間，而係一直冇人量度軟件有冇喺做有用嘢。硬件係最難改嘅一層，上面三層改起嚟卻有複利效應。Nvidia Blackwell 嘅電力配置、FP8 推理、快取重複 prompt、大小模型分工呢啲，全部係現有硬件上面就可以做嘅嘢。真正要問嘅係：呢啲「最易」嘅嘢，點解遲咗先有人認真做？
數據中心電荒係個物理問題，但解法未必只有一個。硬件係最難，軟件係最易；最易嗰度，先係最先見到果實。
模姐｜深度調教
