AGI Hunt· dfrsrchtwts·· 2 小时前AI 评分48
Redwood Research:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍
Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍
AI 导读
Redwood Research 发现,CoTControl 评测因提示设计不足,可能严重低估模型控制 CoT 的能力,现有模型在该评测中普遍仅得 0-30%。研究人员让 Claude Opus 4.6 迭代提示模板后,GPT-OSS-120B 成绩从 5.5% 升至 15%,整体提升约 2-3 倍以上。Fable 系统卡中 UK AISI 也指出,CoT 可控性对 prompt 高度敏感。
来源:AGI Hunt · agihunt.info