跳到正文
热点事件持续更新

征集500B+模型本地运行基准数据

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

面向本地运行500B+参数模型的项目启动Prefill/Decode基准数据征集,呼吁拥有Spark设备和Mac Ultra的用户分享实测速度。数据覆盖不同模型与量化选择,并希望包含32k、64k、128k上下文长度,以补充消费级硬件集群可复现基准数据。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. AGI Hunt
    本地运行 500B+ 参数模型:征集 Prefill/Decode 基准数据

    面向本地运行 500B+ 参数模型的 Prefill/Decode 基准数据征集启动,呼吁拥有 Spark 设备和 Mac Ultras 的用户分享实测速度。征集覆盖模型与量化选择,并希望覆盖 32k、64k、128k 上下文长度,以补足消费级硬件集群可复现基准数据的稀缺缺口。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。