大模型嘅競爭,近年逐步由模型層延伸到算力層。再勁嘅模型,最終都要靠一組組「算子」(kernel,即晶片上執行嘅基本運算單元)於晶片上執行。同一個模型、同一塊晶片,換一套更佳嘅算子,有時可帶來數倍性能提升——而算子效率正正決定同一塊顯卡可以跑幾快,以及每個 token 嘅價格。
報道指,DeepSeek 新近全面開源推理框架 DeepInfer,繼模型權重及 FlashMLA、DeepGEMM 等算子庫之後,將模型運行嘅整條鏈路一併開放。其中嘅 FlashMLA 有工程師喺晶片上逐行手調嘅版本,算子性能據報道達硬件極限嘅 90% 以上,被形容為「人類手藝」喺部分晶片上嘅現階段極限。
圖片:Maurizio Pesce from Milan, Italia/CC BY 2.0/Wikimedia Commons
而同個極限,據報道喺同一週已被 AI 刷新。報道稱,截至 10 月 22 日,完全由 AI 編寫、無人工逐行調優嘅算子 ForgeKernel,同時登上兩個算子評測榜:其一係英偉達嘅 SOL-ExecBench 旗下 FlashInfer-Bench 合集榜首;其二係昇騰 CANN 官方倉庫維護嘅 CANNBench A3 硬件榜榜首,基準加速比 1.835 倍,領先第二名 25%。
報道續指,喺 DeepSeek v4.1 Flash 嘅算子上,ForgeKernel 經由 AI 從零迭代優化,性能超越 DeepSeek 開源嘅英偉達版本。報道嘅結語將呢番發展形容為「智能進化嘅接力」,認為無論係 DeepSeek 嘅開源精神定係算子優化榜嘅競爭,最終都指向同一方向:讓國產智能喺每一塊晶片上都跑得更快。
模姐驗嚇貨:呢單嘢最應該盯住嘅,係 ForgeKernel 嘅數字喺邊個榜、由邊個維護。SOL-ExecBench FlashInfer-Bench 係英偉達嘅榜,CANNBench A3 係昇騰 CANN 官方倉庫維護嘅榜,兩個榜嘅測試集、測試條件、維護方各異,同一組排名喺邊個榜都需逐項對齊先至可比。另外,DeepSeek 開源嘅 FlashMLA 逐行手調版本喺邊個具體晶片上達到硬件極限 90% 以上,原文講得含糊,值得跟進。AI 寫算子喺特定硬件上達到或者超越人手調優,呢個嘅事實值得關注,但「AI 寫算子可超越人工」呢句,未夠獨立測試支持。
模姐|深度調教




