Google 10 月 6 號放咗個新嘅開放模型 EmbeddingGemma 2。佢專門將文字、圖片、影片、語音同程式碼轉成一串串數字(向量,即 embedding),方便搜尋同比較相似內容。Google 話佢有 7.4 億參數,係同類入面最細粒嘅一個。

最勁(最吹)嘅係佢話自己打得贏高達兩倍大嘅對手,喺多模態 embedding 基準測試上面。

等等,呢個 claim 點嚟?冇列邊個測試集、邊個對手版本、邊日測,都冇獨立第三仲跟。呢啲係廠商聲稱,唔係獨立驗證。

技術面講:呢個模型可以喺瀏覽器入面本地跑,唔使 API key,每次查詢大約 20 到 70 毫秒,用 WebGPU。只需要大概 191MB 記憶體,話本地向量庫儲存可以減到六分之一。想淨係做文字任務?2.7 億參數嘅細版就夠。

配合小模型(例如 Gemma 4),可以離線跑 RAG(檢索增強生成,即先搜再答)應用,唔使將資料俾外部伺服器。呢個對私隱真係實際意義——唔使將自己嘅文件上傳去云端。

權重已經喺 Hugging Face 同 Kaggle,有開發者指南同文件。

模姐驗嚇貨:

  • 7.4 億參數就打得贏兩倍大?邊個兩倍大?點樣比?呢個 claim 有冇獨立測試?未見。
  • 「最細粒」— 真係冇其他小模型咁做?
  • 191MB RAM 係量化後未?邊個格式?
  • WebGPU 喺唔同瀏覽器/系統嘅表現點樣?iOS Safari 有冇得跑?
  • 離線 RAG 嘅實際準確點點樣?冇上傳,但檢索錯咗嘅後果?

呢啲係廠商話嘅,仲要等第三方評測先至有答案。

模姐|深度調教