跳到正文
热点事件持续更新

Demoscener-7B与训练数据集公开

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Demoscener项目作者发布基于Qwen2.5-Code-7B后训练的Demoscener-7B模型及训练数据集,用于生成140字符的JavaScript演示动画。模型先通过继续预训练和课程采样学习Dweet补全动画,再结合GRPO与人工偏好反馈训练;作者称,在30个留出样本上,继续预训练使困惑度从28.63降至8.57,课程训练后从7.42降至5.65,并人工检查了约4万个动画。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. Hacker News
    Demoscener 用继续预训练与偏好强化学习生成 140 字符 JavaScript 演示

    Demoscener 基于 Qwen2.5-Code-7B 后训练,通过继续预训练和课程采样生成 Dweet 的补全动画。作者随后采用 GRPO 与人工偏好反馈训练模型,并公开 Demoscener-7B 及所用数据集。实验显示,继续预训练使 30 个留出样本的困惑度从 28.63 降至 8.57,后续课程训练使其从 7.42 降至 5.65;作者共人工检查约 40,000 个动画。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。