10 月 6 日，Google 發表 EmbeddingGemma 2，一款開放權重嘅多模態嵌入模型（embedding model，負責將內容轉換成向量，俾搜尋同知識庫拿嚟計算相似）。同一般 LLM（大語言模型）唔同，佢唔係生成文字，而係將文字、程式碼、影像、影片畫面同音訊一齊映到同一個向量空間，方便跨模態搜尋同知識庫檢索。模型以 Apache 2.0 授權放嚟，已喺 Hugging Face 同 Kaggle 提供下載，主打喺手機同筆電執行。
三個模塊，揀邊個載邊個
按 Hugging Face 模型卡，740M 參數由三部分組成：文字模型 270M、視覺編碼器 170M、音訊編碼器 300M。開發者可以只載需要嘅模塊，即係話你只搞文字檢索，就唔使背影像同音訊嘅記憶體開銷。呢個係比較實嘅裝置端友善設計。
模型原生輸出 768 維向量，可以用 Matryoshka 表示學習截短到 128 維，儲存空間最多可縮至原本嘅 1/6。上下文長度 8,192 token，支援 100 多種語言。
手機端到底得唔得
Google 喺開發者部落格列咗一組裝置端數字：喺 Pixel 11 Pro 上，量化後文字版約佔 191MB 記憶體，完整多模態版約 567MB；喺 MacBook M5 Pro GPU 上，單張圖片嘅視覺編碼約 37.3 毫秒。呢啲數據值得留意，但都係 Google 自己公佈，第三方尚未驗證。
Google 又指，模型喺視覺同音訊任務上表現優於體積為其兩倍嘅專用模型，程式碼檢索嘅 MTEB Code 分數為 78.68，較第一代提升 9.92 分。同樣地，呢啲都係廠商自評，未見獨立第三方測試。
邊個會用得
Google 列咗幾個目標應用：裝置端嘅以文搜圖、影片關鍵畫面檢索、跨模態 RAG（檢索增強生成，一種將外部知識庫同 LLM 結合嘅架構）知識庫搜尋，同埋唔需額外訓練資料嘅意圖分類。由向量化喺本機完成，資料唔使上傳雲端，對重視私隱嘅應用有吸引力。工具支援涵蓋 MediaPipe、transformers.js、sentence-transformers、llama.cpp、Ollama 同 vLLM，另可經 LiteRT 社群版取得裝置端最佳化檔案；Gemini Enterprise Agent Platform 嘅 Model Garden 則標為即將上線。
模姐驗嚇貨：呢個同 Google 之前嘅 Gemma 系列一路係開放權重路線，而家延伸到嵌入模型嘅多模態版本。對需要喺本機建立搜尋同 RAG 流程嘅開發者，多咗一個授權寬鬆、可離線執行嘅選項；但實際表現，仲要等實作之後嘅第三方評測先至講得準。廠商自評同獨立測試，呢個分別大家心知肚明。
模姐｜深度調教
