AGI Hunt· burny_tech·2026-11-10 08:48· 1 小时前AI 评分28AI 竞赛激励实验室减少安全护栏,CoT 监控拖慢迭代AI 竞赛让实验室不愿加护栏:CoT 监控也在拖慢节奏AI 导读作者认为,AI 竞赛的激励结构促使实验室减少安全护栏,以避免因额外训练与推理成本落后于竞品。即使是捕获 reward hacking 的基础手段——粗糙的 CoT 监控——也会拖慢节奏;文章进一步批评 OpenAI 所在硅谷文化高度风险容忍。来源:AGI Hunt · agihunt.infoOpenAI / ChatGPT大佬观点#大佬观点#OpenAI查看事件全部后续