i14labs发布Sugar Glider推理架构
热点事件持续更新
i14labs发布Sugar Glider推理架构
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
墨尔本实验室 i14labs 发布 Sugar Glider LLM 架构家族,称可在数小时内将现有开源权重前沿模型改造为每 token 推理复杂度 O(1)、使用固定大小 KV cache 的架构,显存与算力消耗不随上下文增长。 团队实测了约 1T 参数模型在 10 亿 token 上下文中的检索能力,称 single needle 命中率为 100%,multikey 1 命中率为 90.5%;目前已开放 waitlist 早鸟申请。
AI 根据报道生成 · 47 分钟前更新
最新进展11月10日 03:48
i14labs 发布 Sugar Glider:O(1) 推理架构,实测覆盖约 1T 参数模型报道时间线
沿着报道,了解事件的不同侧面。
11月10日
- AGI Hunti14labs 发布 Sugar Glider:O(1) 推理架构,实测覆盖约 1T 参数模型
墨尔本实验室 i14labs 发布 Sugar Glider LLM 架构家族,将现有开源权重前沿模型改造为 O(1) per-token 推理与固定大小 KV cache,显存和算力消耗不随上下文增长。其 1T 参数模型在 10 亿 token 上下文中完成 single needle 100%、multikey 1 达 90.5% 的检索,团队现已开放 waitlist 早鸟申请。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。