跳到正文
热点事件持续更新

论文揭示大模型上下文更新的“过期绑定”

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

UC Berkeley论文指出,LLM在上下文中的变量更新后,仍可能沿用旧值作答,这种被称为“过期绑定”的失败主要源于生成时选择了旧信息,而非当前值已从模型内部丢失。 对Qwen和Pythia的组件级测试发现,生成答案时注意力会偏向旧值;机制实验仅在开源模型上进行,前沿模型只做了行为测试,结果显示更新结构越复杂,模型越可能出错。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt
    UC Berkeley 论文分析 LLM 上下文更新中的“过期绑定”失败

    UC Berkeley 9 月 30 日发布的论文《When Context Changes: Understanding Update Failures in LLMs》(arXiv 2609.38866)指出,变量在上下文中更新后,LLM 仍可能输出旧值。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。