Demoscener 用继续预训练与偏好强化学习生成 140 字符 JavaScript 演示

Demoscener 基于 Qwen2.5-Code-7B 后训练，通过继续预训练和课程采样生成 Dweet 的补全动画。作者随后采用 GRPO 与人工偏好反馈训练模型，并公开 Demoscener-7B 及所用数据集。实验显示，继续预训练使 30 个留出样本的困惑度从 28.63 降至 8.57，后续课程训练使其从 7.42 降至 5.65；作者共人工检查约 40,000 个动画。