AGI Hunt· Teknium·· 43 分钟前AI 评分53
Teknium 公布 Hermes 用户 token 构成,缓存读取占比超过九成
Teknium 曝 Hermes 用户 token 构成:九成以上为缓存读取
AI 导读
Teknium 公布开启自愿遥测的 Hermes 模型用户平均 token 构成,不含用户自定义 provider。两次分享中,缓存读取占比分别为 92.42% 和 94.11%,实际计算量占比很小,呈现出重度用户负载高度依赖缓存读取的特征。
来源:AGI Hunt · agihunt.info