跳到正文
今天10月21日周三43 条
  1. Hugging Face Blog81

    PyTorch 2.15 为 Mac MPS 加入 FP8 并加速模型运行

    PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8、专用 Metal 内核和更快的 LLM 解码路径。M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s,Wan2.2 视频 VAE 解码峰值显存从约 270 GiB 降至约 8 GiB。运行要求更新为 macOS 15 或更高版本以及 Python 3.11 或更高版本。

    推荐理由:PyTorch 2.15 通过性能与显存数据展示 Mac 端模型运行改进,并交代 FP8、Metal 内核和兼容性要求。

  2. TechCrunch AI70

    Microsoft推出Guardian Agents监控企业AI智能体行为

    Microsoft推出Guardian Agents,用于监控企业使用的AI智能体,并将其纳入Project Perception安全体系。Microsoft还在Microsoft Defender中加入智能体检测功能,可识别最多60种员工带入工作场所的智能体,包括Claude Code、Codex和OpenClaw,同时支持限制智能体访问权限及在风险决策时要求人工审批。

  3. TechCrunch AI77

    Google 开源 TorchTPU,简化 PyTorch 应用向 TPU 和 Google Cloud 迁移

    Google 开源了 PyTorch 的 TPU 适配项目 TorchTPU,开发者只需修改配置,无需重写应用,即可将现有 AI 应用迁移到 TPU 和 Google Cloud。Google 还推出 TPU agent suite 协助迁移和排错,并更新 LiteRT 以提升其对 PyTorch 应用的兼容性。

    推荐理由:对比 Google 与 Amazon 的 PyTorch 适配方案,文中梳理迁移成本、协作生态及降低 Nvidia 依赖的路径。

  4. 雷达侦探精选79

    NVIDIA 发布 Nemotron 3.5、Kumo、Cosmos 3.5 等开放模型

    NVIDIA 扩展覆盖语言、机器人、生物与量子计算的开放模型阵容,推出 NVIDIA Nemotron 3.5 Super VL、Nemotron 3.5 Bolt、Nemotron Retriever、Kumo、Cosmos 3.5、Alpamayo 2 Edge、BioNeMo RFD4-Proteina 和 Ising。

    推荐理由:NVIDIA 同步扩展多领域开放模型阵容,并说明了各模型的用途、开放渠道与产业合作情况。

  5. NVIDIA Newsroom77

    NVIDIA 扩展 Isaac 机器人平台,新增 Agile ONE SN、Isaac Lab 3.0 与开源工作流

    NVIDIA 在 GTC Berlin 扩展 Isaac 开放机器人开发平台,加入参考人形机器人、数据集、运行时和机器人学习框架更新。Agile ONE SN 预配置 Isaac GR00T 与 Jetson Thor,配备 31 自由度身体和双 WUJI Hand 2 机械手,计划于 early 2027 推出。

    推荐理由:新平台把参考人形机器人、数据集、学习框架、运行时与部署流程串成完整路径,适合开发者评估机器人技术栈的整合方式。

  6. 量子位48

    是石科技发布 TokenFleet 分布式调度框架,国产推理首Token延迟降低32.4%

    是石科技发布 TokenFleet 分布式调度框架,通过 TokenPilot、FleetMind 和 SLOMax 优化请求路由、跨机房容量协同与混合负载治理。在所测显卡集群与负载条件下,GLM5.3 的 P95 首Token延迟降低32.4%,P50 首Token延迟降低71.3%;流控协同调度使达标输出吞吐提高约29.4%,达标比例从约67%升至约86%。

  7. WIRED AI69

    德国拟放宽数据中心余热利用要求以推动 AI 算力建设

    德国政府拟修订《能源效率法》,将新建数据中心强制利用余热改为评估技术经济可行性,以缓解 AI 算力扩张与气候目标之间的冲突。德国计划到 2030 年将数据中心规模扩大至两倍、AI 可用算力增至四倍,而欧盟成员国承诺到本十年末削减 55% 温室气体排放。修订案仍待德国议会批准,近 18 个月已有多个数据中心项目因合规负担取消或退出。

  8. Latent Space72

    DeepSeek 开源 DeepInfer 推理框架并披露生产服务数据

    DeepSeek 开源了用于 V4.1 Flash 生产推理的 DeepInfer,并同时发布 deepseek-recipe 接口处理组件。DeepSeek 披露单集群每日服务 155T tokens、96% 输入缓存命中率、400 ms 首 token 延迟和 $38 加速器小时收入,但这些属于未经独立审计的生产数据,KV cache 管理与负载均衡等组件也尚未完整开源。

  9. 人人都是产品经理76

    腾讯开源项目 Octop 实测,对比 WorkBuddy

    文章实测了腾讯开源项目 Octop,并将其与 WorkBuddy 对比,考察两者在安装、多用户、专家团、聊天接入、连接器、远程桌面、ACP 和知识库等方面的差异。Octop 可通过 ACP 调用 Codex、Claude Code、Hermes 等外部编程 Agent,并支持自行部署模型、专家、工具和成员;WorkBuddy 则提供平台内整合好的协作、运行服务和云端知识库入口。

    推荐理由:文章基于安装与多维功能实测,梳理 Octop 与 WorkBuddy 在部署、协作、连接器和 Agent 调用上的差异。

  10. The Information79

    Nvidia 为 AI 云服务投入超过 1700 亿美元

    Nvidia 为支持新数据中心和 AI 云服务,已披露超过 1700 亿美元的担保、承诺及直接投资。截至公司的 7 月季度,担保和其他承诺最高达 1645 亿美元,包括租户违约时向房东付款及购买容量的承诺;此外,Nvidia 已向 AI 云服务商直接投资或同意投资超过 70 亿美元。

    推荐理由:披露的保证与采购承诺、数据中心投资拆分,呈现了 Nvidia 扩张 AI 云服务所承担的财务风险。

  11. TechCrunch Transportation69

    Google 推出车载 Gemini 个性化智能功能

    Google 宣布升级车载 Gemini,新增可调用 Gmail、Google Calendar、YouTube、Maps 和 Google Search 等服务信息的个性化智能功能。该功能将在 Android Auto 中推出,并逐步扩展至配备 Google Built-in 的车辆;用户需主动开启,还可选择连接的应用并随时关闭功能。