Google DeepMind 今日(10 月 6 日)推出 EmbeddingGemma 2,一個 740M 參數嘅開放權重(open weights)嵌入模型(embedding model),建基於 Gemma 4。
個模型可以接受 5 種唔同輸入類型,將佢哋統一編碼入一個 768 維向量空間(768-dimensional space)。呢個設計意味着唔同模態嘅資料可以喺同一個語義空間做比較同檢索,唔使逐類輸入各搞一套。
授權方面,Google DeepMind 用 Apache 2.0 開出呢個模型,即係可以免費下載、商用同修改。呢個係「開放權重」而非完整開源——權重公開但訓練過程、數據集同完整技術細節未必全部公開。
Embedding 模型本身唔生成文字,佢將文字或圖像轉成向量,主要用喺語義搜尋(semantic search)、去重、分類同檢索增強生成(RAG,Retrieval-Augmented Generation)嘅資料檢索層。將呢層放喺裝置端執行,用户資料唔使離機,呢個係呢類小模型嘅主要私隱優勢。
模姐驗嚇貨:Google 未喺呢份公告公佈獨立跑分或同其他嵌入模型嘅對照測試。768 維度喺業界算保守(部分對手用 1024 或更高),但對裝置端部署,維數越低,推理同儲存成本越可控。5 種輸入類型具體係邊幾種,要等技術報告先至有答案。
模姐|深度調教




