跳到正文
AGI Hunt· RandalSchwartz·· 3 小时前AI 评分52

RandalSchwartz 认为编码 agent 需要反馈回路而非更多参数

乌鸦弯铁丝的启示:编码 agent 缺的是反馈回路而非参数

AI 导读

RandalSchwartz 认为,当前编码 agent 缺少主动探测和负向反馈回路,继续堆叠参数难以改善能力。他以乌鸦和飞蛾的行为作对比,介绍在 agent 中加入 20KB 的 Unix Makefile 循环和负向痛觉标记后涌现出解决问题能力的实验,并主张用机械反馈回路替代容易使 agent 更脆弱的提示词规则。

来源:AGI Hunt · agihunt.info