TinyLeague改用KV缓存效率评分
热点事件持续更新
TinyLeague改用KV缓存效率评分
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
TinyLeague作者nunodonato宣布弃用Artificial Analysis评分,改以KV cache效率指标衡量本地部署模型,为显存受限的用户提供量化位数之外的选择依据。 新指标估算模型在128K上下文下的KV cache占用GB数,并以0—100%呈现。其弃用AA评分的原因是许多小模型无法获得该分数,且AA趋向封闭基准,作者认为它将继续限制开源及小模型上榜。TinyLeague-Index综合指数仍在筹划中,因各模型采用的基准不一,尚未确定公平的方法论。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 20:59
TinyLeague 弃用 Artificial Analysis 指标,新增 KV cache 效率评分报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- AGI HuntTinyLeague 弃用 Artificial Analysis 指标,新增 KV cache 效率评分
TinyLeague 作者 nunodonato 宣布弃用 Artificial Analysis 评分,并新增面向本地部署的 KV cache 效率指标。新指标估算模型在 128K 上下文下的 KV cache 占用 GB 数,以 0-100% 打分,为显存吃紧的用户提供量化位数之外的选型维度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。