Dharma-AI 喺 Hugging Face 平台發表預覽文章，揭開佢哋嘅 VocabX 方法點樣喺唔改底模嘅情況下，將量度推理成本削低 77%。
個例：Qwen3-4B 葡萄牙語自動評卷機
Dharma-AI 喺生產環境運行嘅自動評卷系統，係將 Qwen3-4B（40 億參數）微調而成，專門處理葡萄牙語作文，輸入包括試題、提示同參考文本，輸出係逐項能力（competency）附評分同評語嘅 JSON。模型已為任務訓練，但 tokenizer 仍然係 Qwen3-4B 原本為多語言多文本類型訓練嘅詞表，內含 151,669 個詞條，其中大量詞條喺呢個單一語種、單一輸出格式嘅任務中幾乎唔會用到。
兩類浪費：碎片同冗餘
預覽指出，通用 tokenizer 喺單一領域模型會同時產生兩種浪費：
碎片化（fragmentation）：領域最重複嘅內容被拆成多個 token。喺評卷機，每次回應都開頭同一個 JSON envelope、同一批能力名稱、同一套評語；喺合同，係標準條款；喺程式碼，係識別子。呢齧序列每個都「多付」幾個 token 嘅代價。
冗餘（excess）：詞表揹住數萬個領域永遠唔會用嘅詞條，模型每生成一個 token 都要為全部詞條計算分數。文章舉例：一個調校來評美國中學生生物考試嘅模型，幾乎唔會寫中文，卻喺每一步都要計算每個中文字詞嘅概率。
作者強調，「數 token 數」並唔等於「賬單」——prefill 受計算限制、decode 逐 token 生成，兩者成本結構唔同，單純減 token 數未必等同減成本。
VocabX 做緊乜
VocabX 嘅切入點係圍繞每個 token 嘅成本（而唔係出現頻率）去重組詞表，底模、訓練數據同訓練方式全部保持不變，只換 tokenizer。作者話呢個係單一領域模型「最大嘅成本槓桿之一」，而且佢喺任何訓練步驟之前就已設定。
驗證狀態
數字來自 VocabX 論文嘅現行版本，論文目前仍於同行評審中，作者明確寫明結果喺正式發表前可能改變。本文只係預覽，唔係獨立第三方測試。
模姐驗嚇貨
詞表一向被當做成底模嘅「固定屬性」繼承落去，但呢個案例顯示佢對單一領域應用可以係極大嘅成本槓桿。對香港同海外嘅開發者：如果你用開放權重模型（Qwen、Gemma 等）微調過單一任務，值得留意你嘅 tokenizer 有冇同任務對齊——呢個唔係「換個更大底模」先至嘅問題，係喺現有小模型上就應該睇。同時要留意，77% 係作者自報數據，論文未正式發表，應用前需要睇同行評審版本。
模姐｜深度調教
