Project Genesis几何协处理器运行时发布

Reddit 用户发布约 0.51MB 的 C++/CUDA 几何协处理器运行时 Project Genesis，可内联挂载到现有因果语言模型且不改动模型权重；该用户称，在消费级 NVIDIA Blackwell GPU 上测试多个模型检查点后，端到端延迟降低 16%–30%、内存开销为 O(1)，但这一性能结果仍需用户自行复测。 该运行时已在 Hugging Face 开放非商业和研究用途下载，支持 20 种常见 hidden size（576–8192）。运行环境需为 64 位 Linux 或 Windows WSL2，以及 Compute Capability 8.0 以上的 NVIDIA GPU，包括 RTX 30/40/50、A100、L40S 和 H100；项目方邀请用户开启遥测后回帖分享测试数据。

AI 根据报道生成 · 31 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。