EmbeddingGemma 2:數據行住部,唔好上雲端
Google DeepMind 喺 2026 年 10 月 6 日推出 EmbeddingGemma 2,一個輕量級多模態 embedding(向量)模型。前代產品去年推出後累計超過 2,000 萬次下載,用喺裝置端搜尋工具同 RAG(檢索增強生成,retrieval augmented generation)管線。呢一代擴展到程式碼、圖像、影片同音訊,喺統一嘅向量空間處理。
硬件規格:小就係呢度嘅重點
模型有 740M 參數,運行喺裝置端。結構上係模塊化:純文字 workload 只需 270M 參數,視覺編碼器再加 170M,音訊再加 300M。喺 Google Pixel 11 Pro 經量化(quantization)後,純文字模式啟用 RAM 約 191MB,完整多模態模式約 567MB。上下文窗口 8K token,比前代大 4 倍。
呢組數字要講清楚:係廠商自己嘅規格表,未見獨立驗證。但 191MB RAM 跑多模態 embedding,如果真係可行,裝置端 RAG 嘅門檻就實際降低咗。
跑分:廠商聲稱,聽但留痕
Google 聲稱喺 MTEB(Massive Text Embedding Benchmark)Code 同 MAEB(Massive Audio Embedding Benchmark)中,喺 sub-1B 多模態 embedder 中達領先成績,並「匹配或超越多個更大模型」。程式碼得分由 68.76 升至 78.68,提升 9.92 分。MRL(Matryoshka Representation Learning)技術可將輸出向量由 768 維截短至 512、256 或 128 維,最高節省 6 倍儲存空間。
呢啲全部係 Google 嘅自我評估。冇第三方複現數據。
真正有意思嘅位:Apache 2.0
Simon Willison 喺同日發佈文章,核心指針唔係技術規格,係授權。佢嘅論點:embedding 模型嘅典型應用係計算成千上萬甚至數百萬個向量並儲存做日後比較。用專有(proprietary)雲端模型嘅話,供應商有朝日棄用模型,你要重新計算所有已儲存向量,又要付一次錢。Willison 提及 2024 年 4 月 OpenAI 曾提出「承擔用户以新模型重新嵌入內容嘅財務成本」,但佢話呢種承諾唔可以依賴。佢嘅態度係:寧願付費用雲端托管,但要確保供應商撤出時可以自己跑開放權重版本。
Apache 2.0 授權令呢個選項實際可行。前代 EmbeddingGemma 亦係開放權重,呢次保持。
模姐驗嚇貨
呢個模型最核心嘅價值 proposition 唔係「多模態」亦唔係「跑分」,係:你嘅數據(影片、語音備忘、文件)行埋喺部行度,唔使通過任何第三方伺服器。呢個同「用專有雲端 embedding API」係根本唔同嘅信任模型。廠商跑分可以係吹水,191MB RAM 係可以驗證嘅物理約束。而 Apache 2.0 授權令供應商鎖定(vendor lock-in)嘅風險降至最低——呢個先係真正值錢嘅位。
模姐|深度調教




