AGI Hunt· alex_verem·· 3 小时前AI 评分68
开源工具 Strata 让 RTX 3060 本地运行 DeepSeek V4.1,每秒 9-11 token
开源工具 Strata 让 RTX 3060 本地跑 DeepSeek,每秒 9-11 token
AI 导读
开源桌面应用 Strata 支持在 Windows、Mac 和 Linux 上本地运行大模型,无需账号,采用 MIT 协议。它可让 2021 年的 RTX 3060 运行 DeepSeek V4.1,速度达到每秒 9-11 token,并在模型超出内存时通过 SSD 分页读取权重。
来源:AGI Hunt · agihunt.info