StateBench揭示长文档状态追踪架构差异
先了解这件事
AllenAI发布StateBench,以四级任务评测大模型在长文档中追踪物品易手、变量重新赋值等状态变化的能力。最长的general finite任务中,Gemini 3.8 Flash、Claude Opus 5.5、GPT-6 Sol和GPT-6 Luna准确率均不超过13%。 Ai2团队的追加实验称,直接在StateBench上训练模型并用更长输入评测,Hybrid架构与采用灵活记忆更新机制的Gated DeltaNet在前几级任务中接近满分,而Transformer随序列长度增加明显退化;Gated DeltaNet可处理约10倍于训练长度的序列。
AI 根据报道生成 · 2 小时前更新
事件进展
2 个进展
- 11月4日 01:28 · 1 篇报道StateBench追加架构对比实验AGI Hunt:StateBench 实验:Hybrid 架构近满分,Transformer 随长度退化
- 11月4日 01:15 · 3 篇报道发布长文档状态跟踪基准StateBenchHugging Face Blog:StateBench:评测语言模型在长文档中追踪状态变化的能力
报道时间线
沿着报道,了解事件的不同侧面。
- AGI HuntAi2 发布 StateBench:Gated DeltaNet 长序列外推达训练长度 10 倍
Ai2 发布 StateBench 基准,用于评测语言模型在长文档中的状态追踪能力及问题依赖链复杂度。在最难层级,采用灵活记忆更新机制的 Gated DeltaNet 可处理约 10 倍于训练长度的序列,团队还为带非负特征值的定点精度提供了新证明。
- AGI HuntStateBench 实验:Hybrid 架构近满分,Transformer 随长度退化
Ai2 的 StateBench 追加实验显示,Hybrid 架构与 Gated DeltaNet 在前几级状态追踪任务中接近满分,而 Transformer 随序列长度增加明显退化。团队直接在 StateBench 上训练 LLM 并用更长输入评测,以排除预训练因素影响;此前前沿模型长任务状态追踪准确率已跌至 13% 以下。
- AGI HuntAllen AI 提出 StateBench 评测前沿 LLM 的长文本状态追踪能力
Allen AI 提出 StateBench 基准,以四级难度测试 LLM 在长文本中追踪物品易手和变量重新赋值等状态变化。难度从记住生日等固定信息的 r-trivial,递增到追踪被反复换位物品的 general finite;包括 GPT-6 Sol 与 Claude Opus 在内的前沿模型表现不佳。
- Hugging Face BlogStateBench:评测语言模型在长文档中追踪状态变化的能力
AllenAI 发布 StateBench 基准,用于评测语言模型在长文档中追踪实体状态变化的能力。基准包含四个难度层级;测试显示,Gemini 3.8 Flash、Claude Opus 5.5、GPT-6 Sol 和 GPT-6 Luna 在最长的 general finite 任务上准确率降至 13% 或更低,而直接训练的 Gated DeltaNet 与混合模型在部分层级上泛化更远。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。