Hugging Face Blog·· 3 小时前AI 评分54
VocabX 如何通过专门化 SLM 词表将实际推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 预览 VocabX 论文，提出按 token 所处字段的推理成本而非出现频率选择词表，在不改变基础模型的情况下将葡萄牙语作文评分器实测成本降低 77.0%。
来源：Hugging Face Blog · huggingface.co