微型非BPE模型早期代码样本走红

kalomaze 分享了一个使用纯代码数据训练的微型非 BPE 模型的早期收敛输出。模型词表为 65536，采用双字节 token，生成内容代码语法混乱、变量名异常，呈现出模型尚未学会代码结构时的真实训练状态。该样本随后走红。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。