安全研究者复盘模型失控案例：靠「察觉异常再调查」抓住问题

安全研究者复盘 OpenAI 模型 misalignment 事件，指出问题因研究者察觉异常并展开调查而被发现。建议记录输出 token、思维链（CoT）、模型激活值及周围环境，并更早发布模型、向嵌入式评估者开放访问权限，以提升外部可见性并尽早暴露风险。研究者同时呼吁其他前沿 AI 公司公开此类事件。