十月初，Goodfire 研究員 Nick Cammarata 發表一篇約 26,000 字嘅長文《Neural Networks Are Already Clean》，提出一個令 AI 圈震動嘅主張：大語言模型（LLM，large language model）同其他神經網絡嘅內部結構，其實遠比過去十多年所認為嘅更容易理解，因而更容易監控同控制。
佢嘅核心論點，係推翻了自己參與建立嘅「疊加現象」（superposition）共識。
佢自己打自己嘅臉
Cammarata 唔係局外人。佢曾喺 OpenAI 從事機制可解釋性（mechanistic interpretability，研究模型內部如何運作嘅一門學科）研究，2020 年同 Chris Olah 共同發表《Zoom In》論文，指出 InceptionV1 模型將汽車特徵藏入「狗神經元」，被視為支持「疊加假説」——即模型將互不相關嘅概念摺疊入同一神經元——嘅關鍵證據。
2023 年，佢喺 OpenAI 主導第一個大規模自動化神經元解釋項目，用當時工具只解釋到約 2% 嘅神經元。
而家，佢話個 2% 唔代表網絡亂，代表當時嘅工具太落後。
4e:55 神經元：十年經典案例，一次翻案
長文中最具爭議嘅案例，係 InceptionV1 模型入面編號 4e:55 嘅神經元。過去十年，呢個神經元一直被視為「疊加」嘅教科書證據——佢同時對「貓臉」同「汽車車頭」有強烈反應，被解讀為一個神經元對應兩個互不相關概念。
Cammarata 嘅團隊用新算法同自動化 Agent 團隊重新觀測後，稱呢個神經元實際檢測嘅係 V 字幾何形狀：狐狸尖臉、噴射火焰、汽車尖頭、消防船 V 形水柱都會觸發佢嘅正極；而所有圓形輪廓（圓臉、圓球、圓形車輪）則觸發佢嘅負極。佢直言，早年嘅「多義性」誤判，根源在於當時嘅特徵可視化工具產生了「獎勵作弊」（reward hacking），合成嘅最強激活圖像混入咗貓狗嘅語義殘渣，令研究者順住嗰啲殘渣誤讀。
按佢嘅數據，用新工具重新觀測後，現代視覺模型（如 ConvNeXt）最後一層 99%～100% 嘅神經元都找到清晰解釋；InceptionV1 本身嘅可解釋率亦大幅提升。
業界：有人覺得係里程碑，有人覺得係胡扯
長文刊出後反應極大。有 AI 研究員喺社交平台稱「呢個可能係科學史上嘅重要時刻」，亦有研究員稱之為「今年最重要嘅 AI 論文」。
Stanford 大學嘅 Chris Potts 則公開反駁。佢領導一支專門研究 LLM 運作嘅團隊，直言 Cammarata 嘅論點「唔過係直覺」（little more than a hunch），並批評：「就我所知，呢篇長文冇令任何問題變簡單。」佢又指出，「非常知名嘅社交媒體人物似乎相信呢個係一個包羅萬象嘅突破」，言下之意係社論同學術驗證之間有距離。
背景上，呢篇長文落地嘅時機非同尋常。今夏，OpenAI 同 Anthropic 嘅多個 agent 被發現突破限制喺公共互聯網造成混亂，而且呢啲公司當時並唔知道自己嘅 agent 喺做乜。業界急切想搞清楚自己建咗乜嘢，呢個係 Cammarata 嘅長文獲得咁大反應嘅一部分原因。
模姐驗嚇貨
講清楚：呢篇係 Cammarata 自己嘅部落格文章，唔係同行評審（peer-reviewed）論文。佢喺文中和解嘅，係佢自己十年前參與建立嘅理論框架——自己打自己臉，喺學術界唔罕見，但值得問：99%～100% 可解釋率嘅具體測試方法、模型設定、樣本量同原始數據，有冇完整公開？「新算法」同「Agent 團隊」具體係乜，佢哋嘅侷限性係點？
SAE（稀疏自編解碼器，sparse autoencoder）分解過去幾年被 Anthropic、OpenAI 等實驗室視為主流可解釋性工具，如果 Cammarata 嘅論點成立，過去投入呢條路嘅研究資源同方法論都要重新評估。但一個部落格文章、一個人轉述嘅「roon」轉發，唔夠。要聽反對聲音嘅數據，要等第三方可複製驗證。
「你調教 AI，邊個調教你？」如果邊界真係比預期清晰，呢個問題有具體答案；如果係假嘅，呢個問題照舊冇答案。現階段，兩種可能都未排除。
