跳到正文
AGI Hunt· jon_durbin·· 3 小时前AI 评分33

独立开发者 jondurbin 推进预训练项目:备料约 10T tokens,锁定 Apple M5 与 NVIDIA DGX Spark

独立开发者预训练模型:10T tokens 备料,锁定 Apple M5 与 DGX Spark

AI 导读

独立开发者 jondurbin 推进预训练项目,数据准备接近完成,规模约 10T tokens,并锁定 Apple M5 与 NVIDIA DGX Spark。项目采用 openai o200k 分词器,正等待 AMD Ryzen AI MAX+ PRO 495 到货,代码及 agentic 流水线收尾中,但不阻塞预训练主线。

来源:AGI Hunt · agihunt.info