跳到正文
AGI Hunt· teortaxesTex·· 2 小时前AI 评分31

某团队称全程采用 4-bit 完成预训练与后训练,预训练耗时 68 小时

从预训练到后训练全程 4-bit,团队称 68 小时完成预训练

AI 导读

某团队称,其从预训练到后训练全程采用 4-bit 精度,预训练仅用 68 小时完成,并称“模型工厂持续出货”。这条路线若属实,可能降低训练成本与算力需求,但原文未披露团队及模型名称等可核验细节。

来源:AGI Hunt · agihunt.info