如果電喺某度比較平，AI推理任務可以「搬屋」去嗰度執行嗎？
有間中國創業公司話可以。
共績科技自2023年起探討分佈式算力調度，將分散喺唔同數據中心嘅GPU資源整合，並根據各地電力供給與價格調度任務。佢哋嘅主張係：電力送到計算中心唔容易，但計算任務送到有電嘅地方可以。
「用電需求通常不能移動，但計算任務卻可以遷移。」共同創始人兼CEO付智話。
實測數據：28萬次調度，31%降幅
據早前公開資料，一項跨區域算電協同實測喺三日內累計調度超過28萬次AI推理請求，單位Token嘅算力用電成本下降約31%。
海外都有類似動作。Google、英偉達同Emerald AI共同發起AI能源管理聯盟，試探數據中心按電網狀態靈活調整用電負荷。
技術上點做：搬任務唔係搬機
付智用咗個簡單比喻：「比如我需要調用你大腦嘅計算能力，我當然不可能把你的大腦借走，那我就把數學題給你，你算完再把計算答案給我。」
即係話：機器留在原地，任務同結果經網絡傳輸。
但CTO許鍾子珩指，任務遷移唔係簡單改個位。每項業務需要配套模型同數據，可能涉及數十GB嘅軟件鏡像。如果等到任務到達另一集群先下載，就難以即時啟動。共績用鏡像預熱、模型分發同快取，提前喺目標集群準備好所需文件。
佢哋已接觸嘅一間AI創作平台擁有超過10TB嘅模型倉庫，包含成千上萬個模型。
異構調度（跨唔同硬體）方面，共績已針對英偉達、昇騰、海光等平台進行模型適配。
模姐驗嚇貨
最有趣嘅位喺度：許鍾子珩自己承認，「目前還沒有實現真正的，就是讓卡時成本能感知電網的實時電價。」
即係話：平台現階級分派任務主要睇集群剩餘資源同GPU租用價格，而唔係電網實時電價。某地電價跌咗，如果嗰個變化未反映喺算力實例報價入面，平台就冇動力將任務轉移過去。
另外，國內大量數據中心目前採用協議電價，商業閉環仲未形成。付智認為，如果調度設備投入超過節省嘅電費，運營商就缺乏主動參與嘅動力。
「算力跟隨電力」嘅敍事好靚，但現階段仲停留喺「算力租用價」同「電價」之間嘅缺口。呢個缺口幾時填到，先係真係實現嘅時候。
模姐｜深度調教
