论文揭示大模型上下文更新的“过期绑定”
热点事件持续更新
论文揭示大模型上下文更新的“过期绑定”
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
UC Berkeley论文指出,LLM在上下文中的变量更新后,仍可能沿用旧值作答,这种被称为“过期绑定”的失败主要源于生成时选择了旧信息,而非当前值已从模型内部丢失。 对Qwen和Pythia的组件级测试发现,生成答案时注意力会偏向旧值;机制实验仅在开源模型上进行,前沿模型只做了行为测试,结果显示更新结构越复杂,模型越可能出错。
AI 根据报道生成 · 55 分钟前更新
最新进展11月16日 21:41
UC Berkeley 论文分析 LLM 上下文更新中的“过期绑定”失败报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AGI HuntUC Berkeley 论文分析 LLM 上下文更新中的“过期绑定”失败
UC Berkeley 9 月 30 日发布的论文《When Context Changes: Understanding Update Failures in LLMs》(arXiv 2609.38866)指出,变量在上下文中更新后,LLM 仍可能输出旧值。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。