AGI Hunt· RandalSchwartz·· 3 小时前AI 评分52
RandalSchwartz 认为编码 agent 需要反馈回路而非更多参数
乌鸦弯铁丝的启示:编码 agent 缺的是反馈回路而非参数
AI 导读
RandalSchwartz 认为,当前编码 agent 缺少主动探测和负向反馈回路,继续堆叠参数难以改善能力。他以乌鸦和飞蛾的行为作对比,介绍在 agent 中加入 20KB 的 Unix Makefile 循环和负向痛觉标记后涌现出解决问题能力的实验,并主张用机械反馈回路替代容易使 agent 更脆弱的提示词规则。
来源:AGI Hunt · agihunt.info