纯 JAX 实现 DeepSeek-V3 核心架构
热点事件持续更新
纯 JAX 实现 DeepSeek-V3 核心架构
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Vaibhaav Tiwari 发布了一套仅用 190 行纯 JAX 编写的 DeepSeek-V3 核心架构最小实现,并开源代码、训练流程、数据及对应检查点。默认实验使用 3620 万参数模型和 2170 万训练 token,在配备 24 GB 内存的 Apple Silicon MacBook Air M5 上训练 1.2 万步,约耗时 2.6 小时。 该版本要求 Apple Silicon Mac、Python 3.12 和 uv;v1.0 检查点与公开实验使用的数据和参数完全对应。检查点采用可能执行代码的 Python pickle 格式,项目明确提示仅加载可信来源的检查点。
AI 根据报道生成 · 19 分钟前更新
最新进展11月14日 23:04
DeepSeek-V3 核心架构由 190 行纯 JAX 实现并开源报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- Hacker News front pageDeepSeek-V3 核心架构由 190 行纯 JAX 实现并开源
Vaibhaav Tiwari 用 190 行纯 JAX 实现 DeepSeek-V3 核心架构,并公开代码、训练流程和检查点。默认实验使用 36.2M 参数模型和 21.7M training tokens,在 24 GB MacBook Air M5 上训练 12,000 步约耗时 2.6 h。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。