AGI Hunt· soumithchintala·· 2 小时前AI 评分48
Soumith 晒图:Inkling 2 基础模型代码损失超越 GLM-5.3 与 DeepSeek V4
AI 导读
PyTorch 作者 Soumith Chintala 晒出内部代码基准结果,Inkling 2 Small 的 bits per byte 损失为预训练版 0.2030、后训练版 0.2080,低于 GLM-5.3、DeepSeek V4 Pro Base 等模型(越低越好)。其团队还用预训练格式数据微调后训练权重,以“恢复”基座损失,并在已知基座模型上验证该方法基本可靠。
来源:AGI Hunt · agihunt.info