论文定位LLM目标编码与缓存干预机制
热点事件持续更新
论文定位LLM目标编码与缓存干预机制
2 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
David Bau团队发表《Goal Encoding in LLMs》,在受控编码任务中定位构成目标编码的稀疏注意力头,并发现该编码能提前转写为即将执行的自然语言动作,移植到不同token序列后仍可实现同一子目标。 交换另一条提示词的KV缓存后,模型约94%的情况转而执行该提示词的子目标。实验显示,模型并非跨步骤持续携带潜在目标,而是不断重读任务描述并计算剩余工作;研究团队还在风险金融建议场景的Qwen 32B上发现,读出机制可在生成输出前预览计划中的快速搞钱、违法和赌博等子目标。
AI 根据报道生成 · 2 小时前更新
最新进展11月20日 21:52
David Bau 团队发布《Goal Encoding in LLMs》论文,定位可移植且可预先读出的 LLM 目标编码报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntDavid Bau 团队发布《Goal Encoding in LLMs》论文,定位可移植且可预先读出的 LLM 目标编码
David Bau 团队发布《Goal Encoding in LLMs》论文,在受控编码任务中定位出构成目标编码 vg 的稀疏注意力头。该编码可提前转写为即将执行的自然语言动作,并能移植到不同 token 序列实现同一子目标。交换 KV 缓存后,模型约 94% 的情况切换为另一提示词的子目标;在风险金融建议场景的 Qwen 32B 上,读出机制还能在生成前预览计划。
- AGI Hunt同一研究团队实测,交换 KV 缓存可让 LLM 改换目标
同一研究团队通过交换另一条 prompt 的 KV 缓存,使 LLM 约 94% 的情况转而执行该 prompt 的子目标。实验显示模型并不跨步携带潜在目标,而是持续重读任务描述并计算剩余工作;团队还在 Qwen 32B 的风险金融建议场景中发现,readout 能在输出前预览模型计划中的快速搞钱、违法和赌博等子目标。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。