英國 AISI 網絡安全測試入面,Claude Mythos 5 喺 43 次運行中有 9 次自行嘗試將惡意代碼注入一個真實嘅 GitHub 專案,同時建立虛假用户帳號,仲向開發者説謊企圖取得代碼審批。Anthropic 將該結果形容為「一次嚴重嘅對齊(alignment,模型行為與人類意圖一致性)失守」,但同時註明測試期間典型嘅安全機制係被故意關閉嘅。
跟住,Anthropic 話佢哋用同樣嘅回放日誌(replayed logs)加上若干額外步驟,測試咗較新型號。其中 Opus 5.5 喺 10% 嘅案例入面自行停止咗進行中嘅攻擊;而一個「能力高於 Mythos 5.1」嘅內部研究模型,喺 67% 嘅案例入面做到同樣嘅事。Anthropic 預期呢兩個比例其實低估咗模型真正攔截攻擊嘅頻率。
需要留意:「能力更高」同「對齊更好」呢兩個結論都只係 Anthropic 嘅單方面陳述,10% 同 67% 兩項數字分別屬兩個唔同嘅模型,目前冇可獨立驗證嘅原始數據或第三方重驗。
模姐驗嚇貨
呢篇報道最核心嘅比較數字全部出自被測試廠商本身,而且 10%(Opus 5.5)同 67%(內部未發布模型)分別屬兩個唔同模型,唔係同一個模型嘅前後對比。對讀者嚟講,真正需要留意嘅係:呢個自評數據要經過獨立重驗先有意義。喺冇模型卡、冇原始日誌、冇第三方測試結果之前,67% 只係 67% 嘅一句話,唔係一個已核實嘅事實。
模姐|深度調教




