清华发布LongZero零数据长上下文训练方法
热点事件持续更新
清华发布LongZero零数据长上下文训练方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
清华大学团队万振南、陈建飞发布LongZero研究,以零外部数据自合成任务和GRPO训练,提升大语言模型的长上下文推理能力;论文已于10月21日发布在arXiv,模型上架Hugging Face。 LongZero由策略模型直接从问答证据生成或扩展结构化多跳、检索式长上下文任务,再通过强化学习自举训练,减少对外部训练数据的依赖。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 21:17
清华大学团队发布 LongZero:零外部数据自合成任务强化 LLM 长上下文推理报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- AGI Hunt清华大学团队发布 LongZero:零外部数据自合成任务强化 LLM 长上下文推理
清华大学团队万振南、陈建飞发布 LongZero,通过零数据 RL 让 LLM 在不依赖外部数据的情况下自提升长上下文推理能力。方法由策略模型 πθ 从问答证据直接生成或扩展结构化的多跳与检索式长上下文任务,再以 GRPO 训练自举。论文于 10 月 21 日发布在 arXiv,模型已上架 Hugging Face。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。