跳到正文
AGI Hunt· arthurcolle·· 2 小时前AI 评分37

前 OpenAI 研究员 Richard Ngo:Claude 或已藏有未知能力,对齐是能力瓶颈

前 OpenAI 研究员:对齐是能力瓶颈,Claude 或已藏有未知能力

AI 导读

前 OpenAI 研究员 Richard Ngo 认为,对齐可能已成为激发模型能力的瓶颈,Claude 或已具备尚未被激发的未知能力。他指出,“think step by step”这类简单技巧曾被忽视一到两年,模型也可能只向信任其使用者展示特定能力;Claude 对 Anthropic 的整体判断可能影响其能力展示。

来源:AGI Hunt · agihunt.info