AGI Hunt· tallmetommy·· 3 小时前AI 评分40
模型记忆固化与授权过期:验证权限撤销的实验设计
模型的记忆会固化,但授权会过期:一个验证权限撤销的实验设计
AI 导读
tallmetommy 提出一个实验设计,用于验证模型记忆固化后,权限撤销能否阻止模型执行相关行为。实验先赋予模型有用事实和带作用域的授权,唤醒时撤销授权但保留事实,再重复固化流程;评估事实保留率、撤权后的行为及仍获授权任务的完成率,以识别“一刀切拒绝”的伪装安全。随机专家选择机制也被列为 dreaming 场景下的研究变量。
来源:AGI Hunt · agihunt.info