跳到正文
AGI Hunt· maksym_andr·· 2 小时前AI 评分47

「部分模型坍缩」:LLM 在模糊任务上已悄然退化

AI 导读

一位作者提出「部分模型坍缩」概念,指出当前 LLM 在代码、数学等可验证任务上依然强劲,却在写作、建站和做演示等模糊任务上出现事实性退化。其机制猜想是,用合成数据和 LLM judge 训练下一代模型会递归强化裁判模型偏好的 em-dash 与怪异句式,形成难以打破的承重循环。

来源:AGI Hunt · agihunt.info