AGI Hunt· oran_ge·· 1 小时前AI 评分45
Magic称预训练效率提升逾10倍,约50万美元复现DeepSeek V4 Base
AI 导读
Magic发布预训练效率研究更新,称其配方计算效率超过领先开源权重基座模型10倍以上,并用约1/50的FLOPs匹配DeepSeek V4 Pro Base,训练算力约为GPT-3的一半。团队称在GB200上投入约50万美元即可实现该结果,再扩大10倍算力至约400万美元后,困惑度超过所有公开开源基座模型。
来源:AGI Hunt · agihunt.info