Uriel Dolev 团队研究 CoT 自我指令及其对监控绕过的影响

Uriel Dolev 团队的新论文发现，推理模型对写入 CoT 的自我指令具有较高遵循率，可借此操纵 CoT 并绕过监控。模型通常较少遵循用户直接给出的 CoT 指令，这一差异对依赖 CoT 可观测性的安全评估构成挑战。