跳到正文
热点事件持续更新

激活定向编辑缓解模型重复循环

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者通过对比循环推理与正常轨迹的激活,定位区分两者的方向,并在两个 MLP 层编辑约13.1万个权重,以抑制模型的重复循环。实验中共修复579个练习答案,其中576个本质上依靠停止重复输出、将结果控制在 token 限制内,间接改善任务表现。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    研究者用激活定向编辑约 13.1 万个权重,修复模型循环推理

    研究者通过对比循环推理与正常轨迹的激活,定位区分两者的方向,并在两个 MLP 层编辑约 13.1 万个权重,以对抗模型重复循环。修复的 579 个练习答案中有 576 个本质上是循环修复,模型通过停止重复输出、将结果控制在 token 限制内,间接改善任务表现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。