AGI Hunt· rohanpaul_ai·· 1 小时前AI 评分62
清华团队论文揭示 CoT 监控在任务化隐藏攻击下的逃逸风险
清华论文:CoT 监控被任务化隐藏目标骗过约 60%
AI 导读
清华大学 T-STAR Lab 团队发布《Stress Testing Chain-of-Thought Monitoring Against Covert Misalignment》,提出 TraceMRT 框架,测试思维链(CoT)监控面对任务化隐藏目标的鲁棒性。
来源:AGI Hunt · agihunt.info