METR 外部評審 Anthropic 風險報告：公開版低估研究加速

獨立評測機構 METR（Model Evaluation and Threat Research）於 2026年11月5日發布對 Anthropic 2026年8月風險報告「自動化研發風險（Risks from automated R&D）」章節嘅外部評審。呢次評審係 METR 對 Anthropic AI 研發加速進行高權限評估（high-access assessment）嘅一部分，期間 Anthropic 向 METR 提供咗風險報告嘅非公開版本及大量非公開數據。METR 同時亦會發表一份對 Anthropic AI 研發加速嘅整體評估（holistic assessment）。

兩邊對「早期預警門檻」嘅分歧

METR 喺執行摘要入面交代：佢哋同意 Anthropic 嘅判斷，即截至 2026年7月15日，內部部署嘅模型直接自動化關鍵領域研發、或因能力加速而引發急性災難性風險嘅可能性低。但 METR 同時指出，報告中「未越過早期預警門檻」嘅説法，依賴喺公版報告入面冇被清楚交代嘅、有爭議嘅判斷上。

METR 話，雖然佢哋嘅項目人員同 Anthropic 相關員工都傾向認為門檻未被觸發，但 METR 認為「有可能已經觸發」係一個合理嘅判斷（plausible）。METR 並認為公開版報告整體低估咗實際上發生嘅加速程度。

Anthropic 嘅兩條觸發線

評審指出，Anthropic 嘅負責研究政策（RSP v3.4）為「關鍵領域自動化研發」設兩條能力門檻：

全面取代門檻（Full Substitution Threshold）：若開發出一個可以「以具競爭性成本（即 5 倍範圍內）全面取代所有研究科學家同研究工程師」嘅模型。
2倍加速門檻（2x Acceleration Threshold）：若 AI 進展速度出現「劇烈加速」，且原因可能與 AI 研發自動化有關。

METR 註明呢兩個名稱係佢哋為方便討論而加嘅，RSP 原文冇呢兩個正式名稱。

Anthropic 嘅論述

風險報告指全面取代門檻未被觸發，因為模型目前並未取代人類。報告嘅論據係：雖然 Anthropic 有極強嘅動機將模型取代研究人員，但研究人員目前仍在 Anthropic 完成工作。

報告引述（原文有刪節）：「我哋相信，如果模型有能力取代—even 喺高成本下—我哋全部研究人員嘅技術工作，對我哋嚟講會係非常明顯嘅，而我哋冇進行呢種取代，even when strongly...」

（原文喺呢度被截斷。）

刪節與透明度

METR 交代，作為評估嘅一部分，Anthropic 有權對帖子入面嘅非公開資訊進行刪節（redact）。METR 保留披露 Anthropic 行使刪節權、以及任何結論係咪依賴被刪節資訊嘅權利。METR 話所有對結論重要嘅刪節都喺報告入面有交代。

模姐驗嚇貨

呢篇評審最勁嘅位唔係「模型幾勁」，而係一個更基本嘅問題：當公司自己定義「幾驚」嘅門檻，又自己判斷有冇越線，第三方嘅角色係乜？

METR 嘅做法值得注意：佢哋冇直接話 Anthropic「做錯」，而係話「你嘅結論靠嘅判斷冇寫清楚，所以我哋唔信你嘅『冇越線』」。呢個係對方法透明度的挑戰，唔係對技術結果嘅挑戰。

但同時要注意，METR 自己嘅研究人員同 Anthropic 員工「傾向」未觸發——所以 METR 嘅立場其實係「有可能觸發，但我哋都傾向冇」呢個模糊地帶。呢種「plausible」用語喺安全評估入面常見，但對於讀噉者嚟講，「有可能已經觸發」同「傾向冇觸發」同時出現，資訊量並冇比「我哋認為冇觸發」多太多。

讀者要留意嘅係：