跳到正文
AGI Hunt· georgejrjrjr·· 4 小时前AI 评分24

Inkling 2 Small 预训练量偏少却表现强劲,引发业界猜想

Inkling 2 Small 预训练仅 1/6 时长却表现强劲,引发业内猜想

AI 导读

作者围绕 Inkling 2 Small 预训练量明显偏少却依然保持强模型表现的现象发起讨论。该模型采用普通架构、中等规模和很小的 token 预算,业内推测这可能证明模型远未达到饱和,但相关信息尚未得到官方证实。

来源:AGI Hunt · agihunt.info