AGI Hunt· davidbau·· 3 小时前AI 评分45
David Bau 团队研究:开源权重模型目标锚定于可读上下文,利于监控
AI 目标研究:模型目标锚定在可读上下文中,利于监控
AI 导读
David Bau 团队研究发现,所测开源权重模型的目标保持锚定在可读上下文中,便于监控 prompt 与思维链,并用语言直接描述模型目标。研究仅覆盖最大 106B 参数模型,尚不确定结论是否适用于经过更重 RL 训练的前沿模型,以及 DeltaNet 混合、循环层等携带前向状态的架构,团队呼吁独立科学家获得前沿模型访问权限。
来源:AGI Hunt · agihunt.info