跳到正文
热点事件持续更新

开源工具 Strata 支持显卡本地运行大模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开源桌面应用 Strata 让用户无需账号即可在 Windows、Mac 和 Linux 上选择并本地运行大模型,项目采用 MIT 协议。 据报道,2021 年推出的 RTX 3060 运行 DeepSeek V4.1 时,速度可达每秒 9—11 个 token;当模型超过本机内存容量时,Strata 可通过 SSD 分页读取权重,使较低配置硬件也能继续进行本地推理。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. AGI Hunt
    开源工具 Strata 让 RTX 3060 本地运行 DeepSeek V4.1,每秒 9-11 token

    开源桌面应用 Strata 支持在 Windows、Mac 和 Linux 上本地运行大模型,无需账号,采用 MIT 协议。它可让 2021 年的 RTX 3060 运行 DeepSeek V4.1,速度达到每秒 9-11 token,并在模型超出内存时通过 SSD 分页读取权重。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。