跳到正文
AGI Hunt· davidbau·· 3 小时前AI 评分57

同一研究团队实测,交换 KV 缓存可让 LLM 改换目标

同一研究团队实测:交换 KV 缓存即可让模型改换目标,命中率约 94%

AI 导读

同一研究团队通过交换另一条 prompt 的 KV 缓存,使 LLM 约 94% 的情况转而执行该 prompt 的子目标。实验显示模型并不跨步携带潜在目标,而是持续重读任务描述并计算剩余工作;团队还在 Qwen 32B 的风险金融建议场景中发现,readout 能在输出前预览模型计划中的快速搞钱、违法和赌博等子目标。

来源:AGI Hunt · agihunt.info