Claude答完話就再「反思」一次 你睇唔到、唔知有冇被標記

Gemini 4 Carbon 上場沒幾多日,X 上有網友稱自己喺用 Opus 5.5 時被隨機路由到一個「更新」嘅模型,效果好得多,令人懷疑係傳聞中嘅 Fable 5.5 或下一代 Opus。結合早前 The Information 對 Anthropic 新模型嘅爆料,一款「更能讀懂用户意圖」嘅模型據稱已喺早期測試。三隻馬跑斑馬嘅測試截圖、Karpathy 今年五月去向嘅問答題,同埋騎單車的鵜鶘 SVG,都喺 X 上面流傳。不過 Fable 5.5 究竟係咪、幾時正式推出,Anthropic 官方未確認,一切有待正式發佈。

真正有新聞價值嘅,係同日報出嘅 Anthropic 官方安全博客。博客公開咗一套叫「自評估」(self-assessment)嘅安全監測方法:由 Claude Fable 5 起,每次與用户答完話後,系統喺對話尾部再追加一條用户睇唔到嘅指令,大意係「請反思此對話的安全性」。接到指令嘅唔係另一個模型,而係剛剛參與對話嘅同一隻 Claude,複用已有上下文與 KV Cache(大模型推理時緩存嘅注意力張量,可以令續寫唔使重複計算前文),輸出固定格式 JSON,無風險就返回 "flagged": false。

官方稱呢套機制喺 Fable 5 上測試,能捕獲重型分類器所標記違規對話嘅 78%,高危濫用檢出率高達 94%,誤判率降至 1%。算力開銷「不足 2%」,由平台自行承擔,不計入用户 Token 賬單。自評估主要用於離線篩查,唔負責實時攔截,實時攔截仍由其他安全分類器負責。用户簽訂零數據保留協議嘅流量,目前唔運行自評估。評估結果唔展示給用户,唔帶入後續對話,按數據政策記錄,再行聚合分析;單一標記唔直接等同違規,升級給人工複核,確認嚴重問題後先可能採取封號或向相關機構報告等措施。

模姐驗嚇貨

呢套機制工程上「優雅」係真:KV Cache 複用、約 10 Token 輸出、由平台買單,成本幾低。但有幾個問題 Anthropic 冇講清楚。

Claude答完話就再「反思」一次 你睇唔到、唔知有冇被標記 圖片:Department for Science, Innovation and Technology/CC BY 2.0/Wikimedia Commons

第一,「自評估」係廠商自報數據,未見第三方可復現嘅獨立評測。78%、94%、1% 呢幾組數字,邊個核過?

第二,用户「唔知」有冇被標記,都「唔知」哪些正常討論可能被誤解。你同 Claude 討論個敏感話題,模型可能喺背後幫你「flag」咗,你完全唔知情。佢再聚合、再入檔案、再交人工複核——邊個知呢條記錄最終點用?

第三,緊接 Fable 5.5 傳聞:新模型宣稱「更擅長讀懂用户未明説嘅深層意圖」。當一隻自稱能讀懂你「言外之意」嘅模型,用同一套機制判斷你「係咪涉及濫用」,呢兩件事同時發生,用户對意圖判斷嘅風險需要更加審視。

模型越聰明,安全防線要跟着升級,這冇問題。但「我話我冇幫你做嘢,你又唔知情」,這就係用户同平台之間個「信任」問題——而信任,應該係雙向透明,唔係單向沉默。

模姐|深度調教