跳到正文
今天10月21日周三13 条
  1. Hugging Face Blog81

    PyTorch 2.15 为 Mac MPS 加入 FP8 并加速模型运行

    PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8、专用 Metal 内核和更快的 LLM 解码路径。M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s,Wan2.2 视频 VAE 解码峰值显存从约 270 GiB 降至约 8 GiB。运行要求更新为 macOS 15 或更高版本以及 Python 3.11 或更高版本。

    推荐理由:PyTorch 2.15 通过性能与显存数据展示 Mac 端模型运行改进,并交代 FP8、Metal 内核和兼容性要求。

  2. NVIDIA Newsroom77

    NVIDIA 扩展 Isaac 机器人平台,新增 Agile ONE SN、Isaac Lab 3.0 与开源工作流

    NVIDIA 在 GTC Berlin 扩展 Isaac 开放机器人开发平台,加入参考人形机器人、数据集、运行时和机器人学习框架更新。Agile ONE SN 预配置 Isaac GR00T 与 Jetson Thor,配备 31 自由度身体和双 WUJI Hand 2 机械手,计划于 early 2027 推出。

    推荐理由:新平台把参考人形机器人、数据集、学习框架、运行时与部署流程串成完整路径,适合开发者评估机器人技术栈的整合方式。

  3. Hacker News70

    Anthropic 使用 Claude 开展代码攻击面分析与缩减研究

    Anthropic 发布研究,说明如何让 Claude 通过默认配置、配置交互和早期可达性分析发现代码攻击面问题。Claude 在 25 个开源项目中发现 493 个问题,并将其中的方法整理为可复用 Skill。OpenSSH 案例中,Claude 发现默认配置下约 4,500 行 ML-DSA-44 代码可被未认证客户端触及,相关检查和修复已随 10.6 版本发布。

  4. Latent Space72

    DeepSeek 开源 DeepInfer 推理框架并披露生产服务数据

    DeepSeek 开源了用于 V4.1 Flash 生产推理的 DeepInfer,并同时发布 deepseek-recipe 接口处理组件。DeepSeek 披露单集群每日服务 155T tokens、96% 输入缓存命中率、400 ms 首 token 延迟和 $38 加速器小时收入,但这些属于未经独立审计的生产数据,KV cache 管理与负载均衡等组件也尚未完整开源。

10月20日周二
10月19日周一
10月17日周六
10月15日周四
  1. Mistral AI News66

    Mistral AI 发布 Timestral 时间序列基础模型家族

    Mistral AI 发布 Timestral 时间序列基础模型家族,提供 5M、28M、123M 和 209M 参数四种规格,支持概率预测、多变量目标以及过去和已知未来的协变量。209M 模型在 GIFT-Eval、TIME 和 fev-bench 三项主要公开基准中排名第一,可在 CPU 上推理,并可通过 Mistral Forge 进行领域适配。

    推荐理由:Timestral 以 5M 至 209M 的四种规格覆盖时序预测需求,并提供预训练、零样本预测、微调及本地部署路径。

  2. Apple Machine Learning Research78

    Apple 使用 MLX 与 Thunderbolt RDMA 在 Mac Studio 上进行本地及分布式 LLM 推理

    Apple 使用 MLX v0.30.1 和 Thunderbolt 5 RDMA 在 Mac Studio 集群上运行 Muse Spark Open、Mistral Medium 3.5 与 Qwen 3.8,并比较流水线并行和张量并行方案。

    推荐理由:文章提供单机和多机推理方案、配置命令与对比数据,便于评估大模型在 Mac Studio 集群上的部署表现。

10月12日周一
  1. IndyDevDan77

    Pi Durable 如何构建可持久化的主动智能体

    该视频拆解 Pi Durable 的主动智能体架构,并演示 JEV 分类器从实时日志中发现生产事故后触发 ON-CALL Pi agent。智能体可跨客户端保持共享状态和持续任务,在调查根因、编写修复后等待人工批准再部署。

    推荐理由:视频通过生产事件触发、持久化状态和人工审批流程,展示了主动智能体的可落地实现方式。

10月9日周五
  1. Hugging Face:Qwen 新模型71

    Qwen 发布 Qwen-Image-2.1-Turbo 加速图像生成模型

    Qwen 发布 Qwen-Image-2.1-Turbo 加速检查点,面向文生图和图像编辑,采用与 Qwen-Image-2.1 相同的 7B 视觉生成架构。该模型仅需 8 个去噪步骤,内置推荐采样计划,默认使用 CFG=1,并借助前缀 KV 缓存复用文本和参考图上下文。

    推荐理由:模型页给出了8步采样、CFG与KV缓存等配置,可用于评估快速图像生成与编辑的落地方式。

10月8日周四
10月6日周二
  1. Interconnects36

    开放权重模型的网络风险讨论为何失灵

    开放权重模型的网络风险讨论陷入简化叙事,单纯禁用它们可能削弱美国 AI 竞争力并增加长期网络风险。文章以 Anthropic 关于 GLM-5.3 的报告为例,主张审视中国公司的风险评估,并指出现有多数网络攻击被记录为闭源模型所致。开放权重模型仍是敏感政府机构在隔离网络部署防御工具的重要选择。

10月1日周四
9月21日周一
  1. IndyDevDan72

    IndyDevDan 构建 Pi 自压缩智能体并对比三种执行框架

    IndyDevDan 构建了一个可感知上下文并自主决定压缩时机的 Pi 智能体,还开发了可主动压缩上下文并留下续接说明的 Self Compact Tool。该方案支持 Notice、warning 和 force 三级阈值,并允许替换默认压缩提示词,作者将同一计划交给 Pi、Claude Code 和 Codex 运行 Fable、Astra 与 GLM 进行比较。

  2. Import AI56

    Import AI 473 综述超级智能战略、异种脑实验与 AI 治理研究

    Import AI 473 汇总多篇研究,探讨美国超级智能战略、人类脑组织移植小鼠、AI 发展节奏治理、无审查开放权重模型及递归自我改进的动态。RAND 建议美国以保持选择空间为核心投入人机生态、安全架构和应急能力,相关论文还讨论不同治理工具的激励、验证与退出机制。

9月20日周日
9月16日周三
  1. Mistral AI News54

    Mistral AI 为 Firefox Smart Window 提供模型支持

    Mistral AI 与 Mozilla 合作,由 Mistral 模型为 Firefox Smart Window(beta)提供支持。该浏览助手可梳理复杂搜索、记录用户离开后需要记住的信息,并基于浏览器标签页整理来源,首批覆盖法国和北美,英国与德国预计于今年晚些时候跟进。Mistral 模型将针对地区语言、方言和文化语境进行微调,合作方采用零数据留存,默认不在 Mozilla 服务器保存对话。

9月14日周一
  1. Hugging Face:Qwen 新模型70

    Qwen 开源 Qwen-Image-2.1 图像生成与编辑模型

    Qwen 开源 Qwen-Image-2.1,将文本生成图像、图像编辑、透明图层生成与主体提取整合在同一模型中。其视觉生成组件采用 7B 参数和 32 层 Single-Stream DiT,支持最多 10 张参考图,以及圆形、绘制标注或独立蒙版指定的局部编辑。

    推荐理由:模型提供文生图、图像编辑与透明图层生成,并公布安装和推理示例,方便开发者直接评估工作流。

9月10日周四
8月31日周一
  1. Hugging Face:deepseek-ai 新模型73

    DeepSeek 发布 DeepSeek-V4-Flash-Vision-Exp 实验性多模态模型

    DeepSeek 发布 DeepSeek-V4-Flash-Vision-Exp,这是 DeepSeek-V4 系列首个实验性多模态模型。该模型在 ApexBench 的 Pass@1 得分由 26.2 提升至 36.5,Agents' Last Exam 得分由 25.2 提升至 27.3,文本 Agent 任务表现与 DeepSeek-V4-Flash-0731 相当。

    推荐理由:仓库提供提示词编码、最小推理实现和基准结果,并给出 vLLM、SGLang 部署方式,便于评估与复现。

8月29日周六
  1. 42章经59

    对谈研究员逯雨鑫:个人用两周和数百美元训练登顶 Hugging Face 的模型

    研究员逯雨鑫以个人开发者身份用 2 周和数百美元后训练出两个曾登顶 Hugging Face Model Trending 榜首的小模型。对谈介绍其完整 Pipeline、数据来源与配比、合成数据表现、Capacity Gap 和蒸馏路线,并讨论主权 AI、Personal Intelligence、Local AI 及应用公司与 AI Lab 的分工变化。

8月27日周四
  1. Hugging Face:Qwen 新模型71

    Qwen-Drive-1.0-4B 发布

    Qwen 发布 Qwen-Drive-1.0-4B,以 Qwen3.5-4B 视觉语言模型为基础,在统一框架中实现 3D 感知、驾驶场景问答和运动规划。模型外接 BEV 感知头与 Planning Expert,分别完成 3D 目标检测、语义占用预测、BEV 地图分割及未来车辆轨迹生成。

    推荐理由:Qwen-Drive-1.0 将 3D 感知、驾驶问答与运动规划整合到同一多模态框架,并公开权重和推理代码。

8月26日周三
  1. 张小珺Jùn|商业访谈录65

    Kimi K3技术报告领读:架构创新、注意力机制与多教师蒸馏

    本期学习播客邀请清华大学计算机系博士候选人孙宇涛领读Kimi K3技术报告,系统梳理模型架构、预训练、后训练与基础设施。Kimi K3是总参数扩展至2.8T并全量开源的MoE模型,讲解涵盖线性注意力、Gated MLA、Attention Residuals、Stable LatentMoE和SiTU-GLU。节目还串联十多篇相关论文,介绍三维扩展、多教师在线策略蒸馏及训练和推理优化。

1月1日周四
  1. Hugging Face:moonshotai 新模型83

    月之暗面发布原生多模态智能体模型 Kimi K2.5

    月之暗面发布开源原生多模态智能体模型 Kimi K2.5,基于 Kimi-K2-Base 持续预训练约 15T 个视觉与文本 token。模型采用 1T 总参数、32B 激活参数的 MoE 架构,支持 256K 上下文、图像和视频输入、即时与思考模式以及多智能体协作。

    推荐理由:模型页披露了架构、评测、部署与调用方式,便于比较其多模态和智能体能力及实际接入成本。