跳到正文
AGI Hunt· Sauers_·· 7 小时前AI 评分49

Will Stone 演示 Qwen GQA 模型 KV 组激活操控:40 次生成全中

仅操控一个 KV 组即可让模型自称「我是用户」,40 次生成全中

AI 导读

Will Stone 分享的激活操控实验显示,在 Qwen GQA 模型第 26 层向第 0 个 KV 组逐 token 施加 +1.5 推力,可让模型 40 次重新生成都自称用户。该效应在强度 1 时稳定出现并主要定位于第 26 层;改写问法后 18/36 次仍中招,但下一轮仅 6/28 次保持用户人设。

来源:AGI Hunt · agihunt.info