AGI Hunt· art_zucker·2026-11-03 06:37· 2 小时前AI 评分47HF tokenizers 新版:特殊 token 内存降 1000 倍,解码提速 26%AI 导读Hugging Face tokenizers 库本周更新,将特殊 token 的存储从「每个 token id 一个槽位」改为紧凑结构,以 gpt-oss 的 21 个 added token(id 199998–200018)为例,内存占用降低 1000 倍。来源:AGI Hunt · agihunt.infoHugging Face部署工程产品更新#产品更新#部署/工程#Hugging Face查看事件全部后续