谷歌发布端侧嵌入模型 EmbeddingGemma 2

原生向量为 768 维，文本（含代码）、图像、视频和音频落在同一空间。用 Matryoshka 表示学习可以把向量截成 512、256 或 128 维。模型卡称，截到 256 维时质量损失很小；128 维会明显拉低多模态效果。博客称，8192 token 的窗口大约是上一代的 4 倍；单模态最多大约可覆盖 5.5 分钟音频、29 张图或 58 帧视频。

公司自测使用全精度权重。MTEB 代码项从 68.76 升到 78.68，多语言文本项从 61.15 到 61.36。图像、视频和音频没有列出上一代对照。这些分数没有经过独立机构复测。

训练数据截止到 2025 年 1 月，语料覆盖 140 多种语言。模型卡称可用语言在 100 种以上，但各语言表现并不均衡。它不经过生成模型那种事后安全对齐，安全主要靠训练数据过滤。博客称，量化后在 Pixel 11 Pro 上，纯文本权重的运行内存可以低到约 191 MB，完整多模态约 567 MB。

端侧嵌入把检索留在设备上，查询用的文本和图片不必先传到机房。7.4 亿参数能进手机，不代表四种模态会一起常驻：视觉和音频编码器可以按需卸下，内存和效果都跟着变。代码检索的自测涨幅很大，多语言文本几乎没动，把它当成各项一起升级会高估文本侧的变化。