跳到正文
热点事件持续更新

开发者开源本地大模型推理优化 skill

1 篇报道1 个报道来源59 分钟前更新

先了解这件事

AI 综述

开发者 @0xSero 以 MIT 协议开源 Sybil Solutions 的推理优化 skill,并自称靠该工具至少赚了10万美元。该 skill 通过逐项改动、交错控制变量等方法优化本地大模型推理;开发者公布的测试显示,Arc B390 iGPU 上 256K prefill 速度由 297 提升至 628 tok/s,256K KV cache 容量由 26.4万增至 105万 token。 相关数据还显示,笔记本 iGPU 在单用户和四用户解码下分别达到 53 和 103 tok/s,冷启动由 113 秒降至 43 秒,首 token 时间降至 130 毫秒;这些效果基于开发者配图中的特定测试环境。

AI 根据报道生成 · 29 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    开发者开源 Sybil Solutions 推理优化 skill,自称至少赚得 10 万美元

    开发者 @0xSero 开源了 Sybil Solutions 的 inference-optimisation skill,并自称靠该 skill 至少赚得 10 万美元。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。