EmbeddingGemma 2 训练细节曝光：分阶段蒸馏 Gemini，嵌入尺寸最低压到 128

EmbeddingGemma 2 训练方法披露，主要从 Gemini Embedding 2 分阶段蒸馏，先以纯文本蒸馏完成文本对齐，嵌入尺寸最低可压缩至 128。收尾阶段采用单轨迹 checkpoint 平均和 int4 量化感知训练，以在低精度下保持嵌入质量。