研究者预测三个月内出现千万级上下文开源模型
热点事件持续更新
研究者预测三个月内出现千万级上下文开源模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AI研究博主teortaxesTex预测，3个月内将出现标称支持1000万token上下文的可行开源模型。该预测基于其对DeepSeek V4.1长上下文架构的修订方案：用线性logits替代ReLU打分，以4个共享索引器键构建ZHA树，并保持固定选择预算。按teortaxesTex的说法，这能让每步注意力读取量大致稳定，但存储开销仍会随上下文长度线性增长。
AI 根据报道生成 · 3 小时前更新
最新进展11月3日 07:48
teortaxesTex 预测 3 个月内将出现支持 1000 万 token 上下文的可行开源模型报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- AGI HuntteortaxesTex 预测 3 个月内将出现支持 1000 万 token 上下文的可行开源模型
AI 研究博主 teortaxesTex 预测，3 个月内将出现标称支持 1000 万 token 上下文的可行开源模型。其对 DeepSeek V4.1 长上下文架构的修订方案以线性 logits 替代 ReLU 打分，用 4 个共享索引器键构建 ZHA 树，并维持固定选择预算。该方案可使每步注意力读取量大致持平，但存储仍随上下文线性增长。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。