Dharma AI预览VocabX降推理成本结果

Dharma AI预览VocabX论文结果，称通过按token所处字段而非出现频率专门化词表，在不改动基础模型的情况下，将葡萄牙语作文评分器的实测推理成本降低77.0%。 该结果来自仍在评审中的论文当前版本，数值可能随论文修改而变化。对比仅更换分词器，各方案在同一台RTX 5090设备上使用vLLM处理相同500次请求，并按实测运行时间计算成本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。