跳到正文
AGI Hunt· gerardsans·· 1 小时前AI 评分29

Codex 拒绝帮忙复制粘贴课件,“恼人对齐”引出对齐路线之争

Codex拒绝帮忙复制粘贴课件,「恼人对齐」引出对齐路线之争

AI 导读

Amin Karbasi 分享 Codex 拒绝将示例文字复制到幻灯片的经历,并提出“恼人对齐(annoyingly aligned)”概念。Gerard Sans 据此指出,对齐目标本就缺乏清晰定义,依赖系统内部推理控制难以奏效,应转向外部控制并加入异常处理机制,以应对稀疏和 OOD 边缘场景。

来源:AGI Hunt · agihunt.info