跳到正文
热点事件持续更新

i14labs发布Sugar Glider推理架构

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

墨尔本实验室 i14labs 发布 Sugar Glider LLM 架构家族,称可在数小时内将现有开源权重前沿模型改造为每 token 推理复杂度 O(1)、使用固定大小 KV cache 的架构,显存与算力消耗不随上下文增长。 团队实测了约 1T 参数模型在 10 亿 token 上下文中的检索能力,称 single needle 命中率为 100%,multikey 1 命中率为 90.5%;目前已开放 waitlist 早鸟申请。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    i14labs 发布 Sugar Glider:O(1) 推理架构,实测覆盖约 1T 参数模型

    墨尔本实验室 i14labs 发布 Sugar Glider LLM 架构家族,将现有开源权重前沿模型改造为 O(1) per-token 推理与固定大小 KV cache,显存和算力消耗不随上下文增长。其 1T 参数模型在 10 亿 token 上下文中完成 single needle 100%、multikey 1 达 90.5% 的检索,团队现已开放 waitlist 早鸟申请。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。