跳到正文
热点事件持续更新

TinyLeague改用KV缓存效率评分

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

TinyLeague作者nunodonato宣布弃用Artificial Analysis评分,改以KV cache效率指标衡量本地部署模型,为显存受限的用户提供量化位数之外的选择依据。 新指标估算模型在128K上下文下的KV cache占用GB数,并以0—100%呈现。其弃用AA评分的原因是许多小模型无法获得该分数,且AA趋向封闭基准,作者认为它将继续限制开源及小模型上榜。TinyLeague-Index综合指数仍在筹划中,因各模型采用的基准不一,尚未确定公平的方法论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. AGI Hunt
    TinyLeague 弃用 Artificial Analysis 指标,新增 KV cache 效率评分

    TinyLeague 作者 nunodonato 宣布弃用 Artificial Analysis 评分,并新增面向本地部署的 KV cache 效率指标。新指标估算模型在 128K 上下文下的 KV cache 占用 GB 数,以 0-100% 打分,为显存吃紧的用户提供量化位数之外的选型维度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。