跳到正文
热点事件持续更新

WMIP揭示大模型状态追踪评测偏差

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

东北大学等机构发布WMIP探针,在单个提示中要求模型不写出中间状态、连续处理3至100次更新,以测试其累积状态追踪能力。研究发现,模型表现明显依赖是否允许输出操作步骤;允许写步骤的现有测试(如可使用4096个输出token的Minerva)可能绕过了纯状态追踪需求,因此既有基准结论会受评测协议影响。论文认为,大模型跨多次更新的状态追踪仍是短板。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. AGI Hunt
    东北大学等机构发布 WMIP 探针,揭示 LLM 累积状态追踪对输出协议的依赖

    东北大学等机构团队发布 WMIP 探针,用于测试 LLM 在不写出中间状态时追踪 3 到 100 次连续更新的能力。研究发现,模型表现严重依赖输出协议,允许写出操作步骤的现有测试可能绕过了纯状态追踪需求;论文指出 LLM 跨多次更新的累积状态追踪仍是短板,已有基准结论也受到评测协议影响。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。