今早面壁智能(MiniCPM 背後間)智能進化實驗室搞咗場 22.5 小時直播,個主角係佢哋嘅算子生成系統 ForgeKernel——一個完全無人參與的 Agent,喺英偉達 B200 上由零開始,寫快咗 DeepSeek 的 FlashMLA Prefill 算子 9.8%。
做咗乜
先交代背景:算子(kernel)係模型跑喺硬件上底最底層的小程序。同一款模型同一塊芯片,換一套更高效的算子,性能就拉開明顯差距。FlashMLA 係 DeepSeek 開源的注意力核心算子庫,10 月 20 日開源的推理框架 DeepInfer 亦有集成,由業界公認 Infra 最強的團隊手寫,被視為人類手寫算子的巔峰。
而 AI 拿到的,只有算子的數學定義同目標硬件約束。零參考、零源碼,純靠自進化一輪輪改進。
直播過程全程公開:
- 第一版通過正確性檢查,耗時 1834 微秒;
- 不到 4 小時壓到 593 微秒,降幅約 67.6%,已從零逼近當前最佳實現的九成;
- 第 7 小時前後一次核心結構突破,先超過自己上一代,再首次超過 FlashMLA;
- 上午 9 點多直播結束,最終 472 微秒,FlashMLA 為 518 微秒,快了 9.8%。
全程 42 輪迭代,留下 32 個版本,用 1 張 B200 同 22 GPU 小時。人類為此算子寫的代碼:0 行。
直播結束後,智能進化實驗室聯合 OpenBMB 社區宣佈開源 ForgeKernel。
之前已連登三榜
呢場直播並非 ForgeKernel 首次亮相。10 月 27 日昇騰 CANN 官方發文,點名 ForgeKernel 同時登頂 CANNBench 三大硬件榜(950DT、950PR、A3)。其中 A3 即目前廣泛使用的昇騰 910C,總分 4341.16,基準加速比 1.898×,約為第二名 1.22 倍。
直播跑喺 B200 用 CUDA,三張榜喺昇騰用 msprof,軟硬棧完全不同,但 ForgeKernel 用同一套系統兩邊都拿到第一。
點做至做到
10 月 27 日 ForgeKernel 團隊同清華大學等在 arXiv 發表 JustGoal 論文:只給模型一個優化目標,不提供任何算子知識,10 個算子中 8 個跑贏人類維護的開源庫。論文同時指出,同一個模型加上專家預設框架 KDA-0.5,平均成績反而只有 JustGoal 的 0.95 倍。
ForgeKernel 在 JustGoal 基礎上補三塊:將架構設計同實現能力分離並抽象成里程碑;將實測驗證過的硬件經驗存入知識庫;將自己寫出的最好版本當作下一輪對手,一輪輪自進化。論文引述 29 項對比中 24 項打平或超越專家實現,3 套領先 Agent 系統公開的 7 個最強算子全部打平或超越。
團隊同時提及,用 AI 優化訓練框架,在國產芯片可提速 20%~30%,在英偉達為 5%~10%。目前生成的算子已正式接入訓練框架,在國產芯片與英偉達平台上完成 MiniCPM5-1B 長訓測試。
阿調搞兩下
呢場直播有意思嘅地方,唔係快咗 9.8% 呢個數,係「人類寫咗 0 行」呢句。過去十幾年 CUDA 生態靠一輪輪資深工程師逐個調優,人類專家數量根本追唔上芯片迭代。如果寫代碼對 AI 近乎零成本,以前嫌專家太貴算唔過數嘅優化——為某款模型某顆芯片定製算子——就值得做。呢個係真正嘅結構性改變。
但同時要問:直播 22.5 小時算唔算實測?直播過程有冇即時第三方驗證?數據係由邊個工具量度、可唔可以重現?呢啲都係佢哋公開後要先講清楚嘅。
阿調|深度調教




