Demoscener-7B与训练数据集公开
热点事件持续更新
Demoscener-7B与训练数据集公开
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Demoscener项目作者发布基于Qwen2.5-Code-7B后训练的Demoscener-7B模型及训练数据集,用于生成140字符的JavaScript演示动画。模型先通过继续预训练和课程采样学习Dweet补全动画,再结合GRPO与人工偏好反馈训练;作者称,在30个留出样本上,继续预训练使困惑度从28.63降至8.57,课程训练后从7.42降至5.65,并人工检查了约4万个动画。
AI 根据报道生成 · 1 小时前更新
最新进展11月1日 02:08
Demoscener 用继续预训练与偏好强化学习生成 140 字符 JavaScript 演示报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- Hacker NewsDemoscener 用继续预训练与偏好强化学习生成 140 字符 JavaScript 演示
Demoscener 基于 Qwen2.5-Code-7B 后训练,通过继续预训练和课程采样生成 Dweet 的补全动画。作者随后采用 GRPO 与人工偏好反馈训练模型,并公开 Demoscener-7B 及所用数据集。实验显示,继续预训练使 30 个留出样本的困惑度从 28.63 降至 8.57,后续课程训练使其从 7.42 降至 5.65;作者共人工检查约 40,000 个动画。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。