Cohere 推出新一代重排模型 Rerank 5,設 Pro 同 Fast 兩級(tier),支援 32K context window,主打段落級(passage-level)嘅「Context Focus」抽取,以及校準過嘅相關度評分(calibrated relevance scores)。

點解重要:Rerank 喺 RAG(檢索增強生成,retrieval-augmented generation)流程入面負責將檢索回嘅文件重新排序,決定乜先畀 LLM 睇。Rerank 排得越準,下游答案質量越大。呢次主打嘅段落級抽取,係將相關度判斷由整篇文件縮細到段落層面,理論上對長文檔更準。

證據同測試條件:廠商公開資料顯示 Pro 版喺 BRIGHT 基準得 82.2 分,價格 $0.05 每 1M tokens。呢個數字來自廠商公佈,屬廠商聲稱,非本站實測,亦無獨立第三方測試佐證。Fast 版嘅跑分、速度同實際延遲資料,廠商未於今次公佈中交代。

對讀者嘅關聯:如果你用 Rerank 做 RAG 管線,多幾 K context 加段落級抽取,對長文檔(例如合約、法規)嘅檢索精度有直接影響。

模姐驗嚇貨:單靠廠商自評同 BRIGHT 跑分唔夠,Rerank 嘅真正分別要睇佢喺你實際數據集上嘅排準度同誤排率。Pro 同 Fast 之間有冇明顯落差、calibrated scores 有冇真係校準過,呢啲都要獨立測試先有答案。而家冇獨立測試,保持睇住。

模姐|深度調教