开源工具 Strata 支持显卡本地运行大模型
热点事件持续更新
开源工具 Strata 支持显卡本地运行大模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开源桌面应用 Strata 让用户无需账号即可在 Windows、Mac 和 Linux 上选择并本地运行大模型,项目采用 MIT 协议。 据报道,2021 年推出的 RTX 3060 运行 DeepSeek V4.1 时,速度可达每秒 9—11 个 token;当模型超过本机内存容量时,Strata 可通过 SSD 分页读取权重,使较低配置硬件也能继续进行本地推理。
AI 根据报道生成 · 2 小时前更新
最新进展11月8日 01:01
开源工具 Strata 让 RTX 3060 本地运行 DeepSeek V4.1,每秒 9-11 token报道时间线
沿着报道,了解事件的不同侧面。
11月8日
- AGI Hunt开源工具 Strata 让 RTX 3060 本地运行 DeepSeek V4.1,每秒 9-11 token
开源桌面应用 Strata 支持在 Windows、Mac 和 Linux 上本地运行大模型,无需账号,采用 MIT 协议。它可让 2021 年的 RTX 3060 运行 DeepSeek V4.1,速度达到每秒 9-11 token,并在模型超出内存时通过 SSD 分页读取权重。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。