跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

28 条精选近 30 天 21 条共收录 109 条

更新

精选归档 · 第 2 页

9月23日周三第 21–28 条
9月10日周四
  1. Cursor Changelog82

    Cursor 发布 Projects 智能体工作区

    Cursor 发布 Projects,支持围绕功能开发、迁移和完整应用维护长期上下文,并并行委派任务给子智能体。项目运行在云端独立计算机中,可跨云端和本地同步文件与工作上下文;协调智能体负责规划、分派和回收结果,还可按计划监控 Slack、PR 等信号。Projects 现已进入 beta 阶段,并从今天起向所有用户逐步开放。

    推荐理由:Cursor Projects 通过持续上下文、并行子智能体和云端运行环境,支持更大规模开发任务,适合关注智能体协作与自动化工作流的读者。

8月25日周二
  1. Hugging Face:zai-org 新模型77

    GLM-5.3-Flash 发布,主打原生多模态与高效推理

    智谱(GLM)发布 GLM-5.3-Flash,这是 GLM-5 系列首个原生多模态模型。模型总参数量为 320B、激活参数量为 18B,采用稀疏与线性注意力混合架构并引入 mHC,在多项基准和实际工作负载上超过 GLM-5.2,价格为其十分之一。

    推荐理由:GLM-5.3-Flash 同时给出架构、部署方式与评测复现参数,便于比较其多模态、编码和智能体能力及部署成本。

8月13日周四
  1. Hugging Face:deepseek-ai 新模型82

    DeepSeek 发布 DeepSeek-V4-Pro-0813 正式版模型

    DeepSeek 正式发布 DeepSeek-V4-Pro-0813,取代 Preview 版本,并加入 DSpark 推测解码模块以增强智能体能力。模型在 HLE、Terminal Bench 2.1 和 DeepSWE 等基准中取得 42.7/60.0、87.9 和 62.7 的成绩,reasoning_effort 现支持 low、high、max 三档。

    推荐理由:DeepSeek-V4-Pro-0813的正式版本、评测数据与部署配置齐全,便于开发者比较其智能体和编码表现并评估落地方式。

7月31日周五
  1. Hugging Face:deepseek-ai 新模型73

    深度求索发布 DeepSeek-V4-Flash-0731 正式版

    深度求索正式发布 DeepSeek-V4-Flash-0731,取代此前预览版,并强化 Agent 能力,模型结构与 DeepSeek-V4-Flash-DSpark 相同,附带 DSpark 推测解码模块。

    推荐理由:该发布提供模型结构、推理档位、编码方式及 vLLM、SGLang 部署配置,便于开发者评估并部署 Agent 工作流。

6月16日周二
  1. Hugging Face:zai-org 新模型78

    智谱发布 GLM-5.2 开源模型,支持 1M-token 上下文

    智谱发布 GLM-5.2 旗舰模型,主打长程任务,提供稳定的 1M-token 上下文,并增强编码能力和多档思考强度。模型采用 MIT 开源许可证,支持 SGLang、vLLM、Transformers、KTransformers 和 Unsloth 等框架部署,官方还公布了 HLE、AIME 2026、SWE-bench Pro、MCP-Atlas 等基准成绩。

    推荐理由:GLM-5.2 将长程任务、1M-token 上下文和灵活思考强度结合,并提供多项基准与本地部署方案,便于评估其实际能力边界。

2025年11月4日周二
  1. Hugging Face:moonshotai 新模型79

    Moonshot AI 发布 Kimi-K2-Thinking 开源思考模型

    Moonshot AI 发布开源思考模型 Kimi-K2-Thinking,支持逐步推理、动态工具调用和 256K 上下文窗口。模型采用 MoE 架构,总参数量 1T、每 token 激活 32B 参数,可在连续 200–300 次工具调用中保持目标导向,并通过后训练量化感知训练实现原生 INT4 推理与约 2x 生成加速。

    推荐理由:Kimi-K2-Thinking把长链推理、工具编排与原生INT4部署放在同一模型中,并提供完整评测与调用示例。