跳到正文
AGI Hunt· alex_verem·· 3 小时前AI 评分68

开源工具 Strata 让 RTX 3060 本地运行 DeepSeek V4.1,每秒 9-11 token

开源工具 Strata 让 RTX 3060 本地跑 DeepSeek,每秒 9-11 token

AI 导读

开源桌面应用 Strata 支持在 Windows、Mac 和 Linux 上本地运行大模型,无需账号,采用 MIT 协议。它可让 2021 年的 RTX 3060 运行 DeepSeek V4.1,速度达到每秒 9-11 token,并在模型超出内存时通过 SSD 分页读取权重。

来源:AGI Hunt · agihunt.info