上下文压缩或削弱智能体可追溯性

Arpit Bhayani 指出，上下文压缩可能删除智能体输出的来源 URL、引用和不可信标签，也可能弱化“不要触碰生产环境”等硬性限制，影响对其行为的追溯。 他建议将原始输出保存在上下文之外，逐字保留用户指令，并为每条陈述标注来源、区分声称与已验证结果；此外，可通过 eval 检查关键信息在压缩后是否仍被保留。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。