跳到正文
AGI Hunt· benno_krojer·· 1 小时前AI 评分39

新可解释性论文追问:语言模型内部真的编码了「目标」吗?

AI 导读

Arnab 发布新可解释性论文,研究语言模型执行跨越数千 token 的长任务时内部是否存在显式的目标编码,并迈出读取该编码的第一步。论文对「目标」给出具体定义,需满足 3 条判据才算目标;可解释性研究者 benno_krojer 认为这是很酷的开端,指向大量后续工作,包括他与 cbaiai 正在推进的项目。

来源:AGI Hunt · agihunt.info