Sakana AI MASS 自我改進模型：近70%勝率，但盲點會被烙入下個訓練週期

Sakana AI 同加州大學柏克萊分校嘅研究團隊近日公佈咗「多代理自我監督」（MASS, Multi-Agent Self-Supervision）方法，屬於「遞迴自我改進」（RSI, recursive self-improvement）研究範疇。一個語言模型同時擔任做題者、優化者同評分者，唔需要外部更強嘅「教師模型」，理論上可以自己提升。

靈感嚟自 AI 先驅 Marvin Minsky 嘅《Society of Mind》，研究員關注嘅係同一模型點樣把自己份工拆開。喺 MASS 入面，workflow 係附加喺 prompt 上嘅文字，定義每個 sub-agent 嘅角色。所謂「合約」（contract）指明每個 sub-agent 要返回咩資料、要做邊啲檢查；「跳」（hop）則訂定調用嘅次序。一個 orchestrator 負責分派任務。例如用歷史價格測試一個交易策略時，數據專家嘅合約必須確保策略喺每個時間點只用當時已公開嘅資訊。

研究團隊提出喺科研前沿，連專家都難以判斷結果，因為驗證可能需要昂貴嘅佐證或者長時間實驗。論文舉例，單一項電漿研究可以需要超過一億二千萬 CPU hours。因此模型本身可能係目前最可行嘅「審計者」，即使佢回看自己嘅工作時可能睇漏自己嘅錯。

內環（inner loop）入面，模型權重保持凍結，團隊運行一個候選 workflow，評判者將結果同現任「冠軍」（champion）比較。優化者就嗰個回饋提出下一個 workflow，主要透過修改合約同跳嘅次序。外環（outer loop）入面，冠軍每個任務跑 18 次，模型自己將結果排序，揀出最多 15 次作訓練資料。研究員喺訓練例子入面移除 orchestrator 初始 prompt 上面嘅 workflow 文字，使模型學會單靠任務本身去組織工作，記錄入面嘅具體分派保留。經 LoRA 微調後，模型重新承擔全部三個角色。

基座模型為 Qwen3.6-27B，使用 Qwen Code 作 harness。研究員用 GPT-5.5 生成 12 個跨金融、機械人及製藥領域嘅研究任務，保留 3 個測試、9 個訓練。其中一個訓練任務揾唔到能勝過參考答案嘅 workflow，故只有 8 個任務產生訓練資料。

喺測試任務上，對基座模型嘅勝率喺經過兩個循環後升至接近七成。研究指出提升主要來自完成更多工作，而非單一能力躍升。

風險在於共享嘅盲點。論文指出，同一個模型同時做做題、檢查同修訂，有時會把錯誤步驟或被操縱嘅解法當成功，然後呢啲錯誤被「烙入」下一個訓練週期。呢個現象喺 RSI 文獻入面稱為自我強化偏差（self-reinforcing bias），即同一系統既做產出又做驗收，錯覺會沿著訓練鏈累積。

模姐驗嚇貨：用同一個模型做「學生」兼「教員」兼「考官」，聽落似係自我提升，實則係用同一副眼鏡批改同一份試卷。兩個循環七成勝率，但文檔同時承認呢個方法有結構性風險——內判官有時將錯當對。呢個唔係單純嘅「模型能力不足」，係「自我監督」呢個概念本身嘅邏輯漏洞。真正緊要嘅問題唔係「模型夠唔夠勁做判斷」，而係「一個冇外部獨立校驗嘅系統，自己話自己進步，有冇人信？」

來源：