跳到正文
AGI Hunt· art_zucker·· 2 小时前AI 评分47

HF tokenizers 新版:特殊 token 内存降 1000 倍,解码提速 26%

AI 导读

Hugging Face tokenizers 库本周更新,将特殊 token 的存储从「每个 token id 一个槽位」改为紧凑结构,以 gpt-oss 的 21 个 added token(id 199998–200018)为例,内存占用降低 1000 倍。

来源:AGI Hunt · agihunt.info