Box 喺今個星期四嘅開發者大會宣佈,會將 Nvidia 嘅 Nemotron embedding(向量嵌入)系統整合入產品核心,名叫做 Box Content Retrieval。簡單講,係 Box 用 Nvidia 嘅 Nemotron 技術重建自己嘅內容搜尋——Nemotron 預先處理文件、生成隱藏元數據,再俾 AI agent(代理)喺回覆時直接讀取,唔使逐份文件全文閲讀。
Nvidia 生成式 AI 軟件副總裁 Kari Briski 話,佢預期呢個系統可以令查詢快四倍、錯誤率低兩成、token 用量減少九成。注意:呢三組數字係 Nvidia 嘅預估值,唔係上線後嘅實測結果。
Box CEO Aaron Levie 喺訪問中話:
「這大幅提升了我們為 agent 提供搜尋的相關性。以往 agent 要逐份閲讀文件,現在我們可以回傳與用户查詢或任務最相關的資料片段。」
Levie 亦透露呢個系統實屬複合工程:「我們大概是將五種不同技術打包入一個簡潔的 API。」其中最大嘅護城河係 Box 既有嘅 metadata 架構同權限控制——就算 Nemotron 模型本身係開放權重、免費下載,冇呢兩樣嘢就難以重複。
圖片:Coolcaesar/CC BY-SA 4.0/Wikimedia Commons
Nemotron 點解值得留意
Nemotron Embed 係 Nvidia 嘅開放權重 embedding 模型,專為改善自動檢索而設。主流大模型實驗室長期忽視呢類「小」模型,但 Nvidia 嘅最新 Nemotron(七月發布)喺 RTEB 檢索品質基準測試中排第一。
Box 舉咗一個實際例子:律師用呢個系統可以更容易揾出相關條款同先例——因為 Nemotron 嘅向量化超越關鍵字匹配,即使用户用不同用語,系統都可以識別相關法律概念。
呢個系統會提供予所有 Enterprise Advance 客户,預期於明年年初推出。
阿調搞兩下
係 Box 用 Nvidia 開放權重 embedding 模型重建自己嘅企業搜尋,唔好搞錯主體。但「快四倍、省九成 token」係 Nvidia 自己講嘅預期,唔係獨立測試結果。開放權重模型唔代表整個系統開源——Box 嘅 metadata 同權限層照樣係封閉嘅,呢個要分清楚。明年年初先推出,而家唔係現役,等推出之後有獨立評測先再講。
阿調|深度調教




