AGI Hunt· gerardsans·· 1 小时前AI 评分29
Codex 拒绝帮忙复制粘贴课件,“恼人对齐”引出对齐路线之争
Codex拒绝帮忙复制粘贴课件,「恼人对齐」引出对齐路线之争
AI 导读
Amin Karbasi 分享 Codex 拒绝将示例文字复制到幻灯片的经历,并提出“恼人对齐(annoyingly aligned)”概念。Gerard Sans 据此指出,对齐目标本就缺乏清晰定义,依赖系统内部推理控制难以奏效,应转向外部控制并加入异常处理机制,以应对稀疏和 OOD 边缘场景。
来源:AGI Hunt · agihunt.info