PolicyLM-1.7B 開放權重做內容審核　政策由人寫　你仲信黑箱？

乜係 PolicyLM-1.7B

週二（10 月 6 日），一間叫 Musubi 嘅公司發布 PolicyLM-1.7B，一個專做即時內容審核嘅輕量「決策模型」（decision model），公開權重。

個邏輯很直接：平台管治人員用英文寫一單「內容政策」，模型喺 50 毫秒內逐條訊息判斷「屬唔屬」該分類。二元輸出——喺唔喺，冇中間地帶。因為把輸出限制喺預設選項入面，佢比完整大語言模型（LLM）快、成本低，同時保留 Transformer 架構嘅彈性。

最關鍵嘅賣點：改政策唔使重新訓練。政策寫唔寫、點寫，係人嘅決定——呢點對「政策由人定」嘅設計，係技術核心。

Decision model 呢個概念邊嚟

Typesafe AI 九月推出 Jev 之後，OpenAI 同 Amazon 跟住放 competitive decision model，令呢類模型成為業界熱點。Jankovic 話佢對 decision model 嘅興趣早過 Jev，追到 2024 年嘅 GLiNER（Generalist Model for Named Entity Recognition）項目，同一批技術。

呢個技術嘅一個早期用例係約束 AI agent 嘅亂舉動——用同一種技術處理人嘅亂舉動，喺報道入面係自然延伸。

Musubi 自己嘅產品公告話：「If Jev caught your eye, PolicyLM-1.7B is the same kind of model, trained specifically for content moderation, that you can run yourself.」

Jankovic 話：「Product teams just want a better understanding of what's happening on their platform, especially as the amount of content is exponentially increasing. Being able to label all of that in a very scalable, customizable way is extremely useful.」

模姐驗嚇貨

開放權重，係真係開放。你跑得到、查得到、改得。呢點唔係「廠商自評」——係你人手喺度。

但模姐要問嘅，係材料冇寫嘅嘢：

政策邊定？ 佢唔係問模型「你覺得乜好」，係問平台管治人員「你寫咗乜」。政策透明度，取決於邊個有權寫、有權改、改咗有冇公開。

假陽性點處理？ 一個二元模型，錯誤會係系統性。呢條文冇提申訴機制。假陽性，對用户嚟講，係你嘅字被靜默封鎖，你唔知點申訴。

邊個部署佢？ 開放權重唔自動等於審計。模型跑喺邊、數據去去幾時、判斷記錄有冇留底——呢啲唔喺權重入面。

呢個唔係一個「壞」嘅模型。係一個技術方向：將審核權限，從平台黑箱，拆入可檢視嘅權重。拆到幾開，取決於政策同運行環境點設計。

模姐｜深度調教