跳到正文
AGI Hunt· kimmonismus·· 1 小时前AI 评分50

i14labs 发布 Sugar Glider:O(1) 推理架构,实测覆盖约 1T 参数模型

墨尔本实验室发布 Sugar Glider:O(1) 推理架构实测至万亿参数

AI 导读

墨尔本实验室 i14labs 发布 Sugar Glider LLM 架构家族,将现有开源权重前沿模型改造为 O(1) per-token 推理与固定大小 KV cache,显存和算力消耗不随上下文增长。其 1T 参数模型在 10 亿 token 上下文中完成 single needle 100%、multikey 1 达 90.5% 的检索,团队现已开放 waitlist 早鸟申请。

来源:AGI Hunt · agihunt.info