AGI Hunt· tomekkorbak·· 3 小时前AI 评分34
CoT 可控性评测之争:预填思维链是能力上界而非严格改进
CoT 可控性评测之争:预填思维链是上界而非严格改进
AI 导读
tomekkorbak 在 CoT(Control)监控评测讨论中指出,基于影响(IF)的可控性评测衡量的是模型能否自主控制思维链以绕过监控器的代理指标。他认为,模型无法选择预填的 CoT 内容,必须自行生成,因此预填方案更接近所需能力的上界,而非原始 CoT-Control 所测的更接近下界的能力。
来源:AGI Hunt · agihunt.info