跳到正文
AGI Hunt· Miles_Brundage·· 43 分钟前AI 评分23

前 OpenAI 研究员调侃:CoT 监控论文已成小产业

前 OpenAI 研究员调侃:思维链监控论文已成小产业

AI 导读

前 OpenAI 政策研究员 Miles Brundage 发推调侃,近期 CoT 监控相关论文密集出现,戏称其已形成“COTtage industry”的小产业。相关讨论源于 Anthropic、OpenAI 等围绕 CoT 可监控性与 faithfulness 的争论,成为 AI 安全圈热点话题。

来源:AGI Hunt · agihunt.info