你調教 AI，AI 又調教出個模型：Recursive 嘅 Flint

AI 新創公司 Recursive 於 10 月 21 日（週三）發布咗佢哋首個語言模型 Flint，一個為本地編程（agentic coding）設計嘅 MoE 模型，由 Recursive 自家嘅 AI 系統「Eureka Machine」主導開發，喺不足四個月內由零構建。

Flint 總參數 40B，但每個 token 只啟用約 2.5B 參數，就係靠呢個「混合專家」（Mixture-of-Experts，MoE）架構，令模型細到普通筆電都跑到。

Eureka Machine 做了乜？

按 Recursive 嘅介紹，呢個系統會自動執行整個研究循環：自己提出想法、將方案搭出來、做測試、再根據結果規劃下一輪實驗，並行運行多個方案。喺 Flint 研發上，佢涉及訓練資料、最佳化器、架構設計同推理微調。

三個例子可以睇到呢個系統點樣塑造咗模型：

• 架構：由 35B 總參數、3B 啟用嘅設計起步，Eureka Machine 測試咗唔同嘅專家配置，最終 40B 總、2.5B 啟用嘅方案喺佢測試過嘅所有變體入面，係速度同編程表現之間最好嘅平衡點。
• 量化：系統逆轉常規，將輸出層亦降到 4 bit，再加一步蒸餾（distillation）補回準確度。按 Recursive 講，呢個 NVFP4 模型喺各項基準只比 16-bit 版本低 0.7 分，而蒸餾所需嘅訓練步驟大約係舊方法嘅一半。
• 計算核心：Eureka Machine 專門為 Apple Silicon 同 Nvidia RTX Spark 寫咗特定嘅計算核心。喺 Apple M4、M5 晶片上，一個 Metal megakernel 將 token 生成期間嘅整個前向傳播合併為單一操作。

效能：呢度係廠商聲稱，未獨立查證。

Recursive 話 Flint 喺 SWE-Bench Verified 等編程基準，喺少於 50B 參數嘅 MoE 模型入面領先；MarkTechPost 引述 SWE-bench Verified 得分 74.2%。喺 MacBook Pro（M4 Pro）短上下文下每秒生成超過 125 tokens，喺 64GB 顯存嘅 Nvidia RTX Spark 上超過 150 tokens。vLLM 同日宣佈 Day-0 支持，提供專用 Docker image；喺單一 GB200 GPU 上 100K context 下約 500 tokens/s。

模型支持高達 512,000 tokens 嘅上下文視窗，但 Recursive 建議上限設喺 256,000。權重喺 Hugging Face 以 Apache 2.0 授權開放，提供 NVFP4（量化）同 BF16 兩個 checkpoint。

背景：

Recursive 去年成立，5 月脱密，融資 6.5 億美元，估值 46.5 億美元，投資者包括 GV、Nvidia、AMD Ventures。CEO 係 Richard Socher，Salesforce 前首席科學家。公司嘅長遠目標係用呢個方法去建立「可以接管自身進一步發展」嘅 AI 系統——即係「遞歸自我改進」（recursive self-improvement）嘅早期公開測試。業界對 AI 自我改進脱離人類控制嘅風險存在爭議；目前 Recursive 嘅版本係由人類監督嘅 AI 研究助理。

阿調搞兩下：呢度最黃嘅唔係跑分，係「AI 調教 AI」呢個 loop。你調教 AI，AI 再調教 AI，最終邊個揸住個掣？Socher 話目前個系統「incapable of escaping human control」，目標係由人類監督。呢句講得幾漂亮，跟進先至見到。對用户嚟講，本地運行、開放權重、Apache 2.0，數據唔使交畀邊個、邊個可以審視，係個相對清晰嘅交代。但「自我發展」四個字，值得長期追蹤。

阿調｜深度調教