跳到正文
AGI Hunt· burny_tech·· 1 小时前AI 评分28

AI 竞赛激励实验室减少安全护栏,CoT 监控拖慢迭代

AI 竞赛让实验室不愿加护栏:CoT 监控也在拖慢节奏

AI 导读

作者认为,AI 竞赛的激励结构促使实验室减少安全护栏,以避免因额外训练与推理成本落后于竞品。即使是捕获 reward hacking 的基础手段——粗糙的 CoT 监控——也会拖慢节奏;文章进一步批评 OpenAI 所在硅谷文化高度风险容忍。

来源:AGI Hunt · agihunt.info