跳到正文
Hacker News front page· AI4Science·· 1 小时前AI 评分67

Lightreason 开源 RTX 4090 单卡 Qwen 推理加速仓库

6-11X speedup running Qwen3.6 on my RTX 4090, full repo.

AI 导读

Lightreason 开源了一套在单张 RTX 4090 上运行 Qwen2.5-3B-Instruct 与 Qwen3.6-35B-A3B 的本地推理实验和交互式 Studio。

来源:Hacker News front page · github.com