Google DeepMind 喺其最強大模型 Gemini 4 Argon 嘅安全報告中，首次就「遞迴自我改進」風險做咗全面經驗性評估。結果好直接：AI 冇加速 AI 研發。
所謂遞迴自我改進（recursive self-improvement），就係 AI 不斷造出比自己更強的版本，最終令現有安全機制完全失效。呢個場景一直係嚇住各大 AI 公司高層、叫人喊放緩嘅核心焦慮。
代碼自動化咗，但速度未爆
報告顯示，DeepMind 目前超過 75% 嘅生產程式碼由 AI 撰寫，完全交由 AI 處理嘅程式碼更改（pull requests）比例由 4 月嘅 7.5% 升至 9 月嘅 11.9%。但同時，約 88% 嘅程式碼更改仍需人類多輪監督、指引或親自編寫，每次更改提交前都有人類審查。
喺 1,389 次內部 Argon 代理運行中，隨任務複雜度上升，AI 無人干預嘅成功率急劇下降。創意研究、新實驗設計、診斷微妙訓練不穩定同長期規劃，人類仍然不可或缺。12 名資深 DeepMind 研究者嘅調查亦確認，自動化程度同任務性質直接掛鈎——定義明確、可驗證嘅任務自動化程度最高，開放式科學構思最低。
能力指數：一路 0.1 點/月，冇突然爆速
DeepMind 建咗一個叫 General Capability Index（GCI，通用能力指數）嘅內部指標，涵蓋 123 個模型、92 項基準測試。Gemini 模型能力每月穩定上升約 0.1 點，2026年4月1日後冇顯著速度變化。
Argon 喺內部基準 RE-Bench（74 項真實 ML 工程任務）上解約一半，雖然較 Gemini 3.7 Flash 嘅 27% 有明顯躍升，但遠低於 DeepMind 視為全面自動化紅線嘅 90%。團隊將 Argon 略高於趨勢線嘅表現歸因於算力同組織投入增加，而非 AI 驅動嘅加速。
參與評估嘅 DeepMind 研究員 Haydn Belfield 喺 X 上表示：「目前無顯著嘅端到端 ML R&D 加速，無論係 AI 驅動定係其他方式，因此由 AI 驅動嘅 ML R&D 風險目前屬低。」
模姐驗嚇貨
呢份報告嘅價值唔單係「冇事發生」，而係 DeepMind 真係搭咗量度基礎設施去主動量度，唔係拍心水話冇事。20 多位研究員（包括 Geoffrey Hinton、Yoshua Bengio 及 OpenAI 嘅 Jakub Pachocki）最近喺一篇研究論文警告 AI 或喺數年內將研發全面自動化，壓縮原本數年嘅進展入數月。DeepMind 嘅數據目前唔支持呢個場景，但佢哋話會持續追蹤。距離「遞迴自我改進」仲遠，但量度本身先係真正嘅安全網。
模姐｜深度調教
