跳到正文
热点事件持续更新

研究发现开源模型目标锚定于可读上下文

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

David Bau 团队研究发现,所测开源权重模型的目标保持锚定在可读上下文中,便于通过监控提示词与思维链,用语言直接描述模型目标。 研究仅覆盖最大106B参数的开源权重模型,尚不确定结论是否适用于经过更重强化学习训练的前沿模型,或DeltaNet混合、循环层等携带前向状态的架构。团队呼吁向独立科学家开放前沿模型访问权限,以进一步验证相关结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    David Bau 团队研究:开源权重模型目标锚定于可读上下文,利于监控

    David Bau 团队研究发现,所测开源权重模型的目标保持锚定在可读上下文中,便于监控 prompt 与思维链,并用语言直接描述模型目标。研究仅覆盖最大 106B 参数模型,尚不确定结论是否适用于经过更重 RL 训练的前沿模型,以及 DeltaNet 混合、循环层等携带前向状态的架构,团队呼吁独立科学家获得前沿模型访问权限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。