Rylan Schaeffer 预注册预测检验新 tokenizer 的 BPB 改进

Rylan Schaeffer 向论文作者索取新 tokenizer 相关模型的 checkpoints，并公开预注册多项预测。新 tokenizer 在下游基准正确选项上预计取得更低 bpb，但在错误选项等情况下表现不同，暗示论文宣称的每字节比特数（BPB）改进可能是假象。该方法可在拿到模型权重前先行押注，以可验证方式检验论文结论。