是石科技发布 TokenFleet 分布式调度框架,国产推理首Token延迟降低32.4%
是石科技发布 TokenFleet 分布式调度框架,通过 TokenPilot、FleetMind 和 SLOMax 优化请求路由、跨机房容量协同与混合负载治理。在所测显卡集群与负载条件下,GLM5.3 的 P95 首Token延迟降低32.4%,P50 首Token延迟降低71.3%;流控协同调度使达标输出吞吐提高约29.4%,达标比例从约67%升至约86%。
是石科技发布 TokenFleet 分布式调度框架,通过 TokenPilot、FleetMind 和 SLOMax 优化请求路由、跨机房容量协同与混合负载治理。在所测显卡集群与负载条件下,GLM5.3 的 P95 首Token延迟降低32.4%,P50 首Token延迟降低71.3%;流控协同调度使达标输出吞吐提高约29.4%,达标比例从约67%升至约86%。
在GTC Berlin 2026主题演讲中,NVIDIA发布DSX POD、OpenShell智能体参考架构、Agent Knowledge Foundation及Agile ONE SN人形机器人平台。
Cloudflare 与 VoidZero、Owner.com 合作发布 tsrs,这是 TypeScript 编译器的 Rust 移植实验版本。相同类型检查 worker 数量下,tsrs 较 TypeScript 7.0 最多快 8x,内存使用约少 70%,可通过 `npm install tsrs` 和 `npx tsrs` 试用。
Harness Pet 是一款 MIT 开源的 Windows 桌面宠物工具,可展示编码智能体的思考、工作、等待和完成状态,并一键跳转到对应应用。宠物以单个 .pet.js 文件封装,可由编码智能体生成或自定义,Studio 还提供动画预览、行为设置和智能体接入配置。
Mistral AI 发布 Voxtral 3,包括 3 个转录模型、1 个文本转语音模型,以及基于 LiveKit 构建的语音智能体 SDK,全部模型均已在 Mistral API 公测。
Google Cloud 发布开源分布式推理栈 llm-d 1.0,为 TPU 和 GPU 集群提供缓存感知路由与统一推理服务。该版本新增多租户流控、v1 API、路由器高可用、零停机升级、DisaggregatedSet 和智能体感知服务,并将 vLLM 或 SGLang 组成协调资源池。
DeepSeek 开源了用于运行自有模型的 DeepInfer 框架。该框架面向模型规模化推理,公开了其在提升运行效率、降低计算成本方面的技术实现。
Flowtica AI 日前完成新一轮数千万元融资,由祥峰资本、源码资本、五源资本和清水湾基金投资,山与资本担任独家财务顾问。其墨水屏 Agent 硬件 Verso 厚度 6.5mm、重 78g,配备常显电子墨水屏、实体按键、4 麦克风阵列与骨传导传感器,支持盲操录音和“Ask AI”提问。此前首款 AI 录音笔 Scribe 海外众筹超百万元,已有 42% 的硬件激活用户转化为订阅付费用户。
Google 发布开源 PyTorch 专用版本 TorchTPU,帮助开发者将现有模型和应用迁移到 TPU,而无需重写底层代码。Google 还推出 TPU agent suite 自动处理迁移错误,并更新 LiteRT 以兼容基于 PyTorch 的应用;其相关功能与代码库已适配 Meta、Hugging Face、vLLM 和 SGLang 等开发者工具。
美国国土安全部指示联邦民事机构停用并移除 DeepSeek 相关产品与服务,中国商务部对此表示坚决反对。OpenAI 上线 ChatGPT Slides 和 Locked Chats,前者支持生成、共享及导出演示文稿,后者可用 PIN、Face ID 或 Touch ID 锁定对话。
Google正将 Personal Intelligence 接入 Android Auto 和内置 Google 的车载 Gemini,可调用 Gmail、Calendar、Maps、Photos、YouTube 和 Search 中的个人信息。
Google 宣布升级车载 Gemini,新增可调用 Gmail、Google Calendar、YouTube、Maps 和 Google Search 等服务信息的个性化智能功能。该功能将在 Android Auto 中推出,并逐步扩展至配备 Google Built-in 的车辆;用户需主动开启,还可选择连接的应用并随时关闭功能。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,用于快速规模化运行 V4.1-Flash。DeepInfer 基于 vLLM,加入优化计算内核、多芯片分布式处理和更快的文本生成技术,DeepSeek 还将同步开源后续模型代码,并发布复现官方 API token 处理方式的 deepseek-recipe。
Google 与 Meta PyTorch 团队开源 TorchTPU,使 PyTorch 模型可通过 torch.device("tpu") 原生运行在 Google Cloud TPU 上。
DeepSeek 以 Apache 2.0 许可证开源了生产推理框架 DeepInfer,并发布 MIT 许可的 token 编解码层 deepseek-recipe。
Adobe 宣布 Lightroom mobile 可通过生成式 AI 一键处理照片中人物闭眼问题。应用检测到闭眼人物后会自动显示 Open Eyes Quick Action,并参考 Lightroom library 中同一人物的其他照片匹配眼睛颜色、大小和形状。免费版可尝试 2 次,之后需订阅 Adobe Creative Cloud 计划以获取更多 AI 工具额度。
DeepSeek 开源 DeepInfer 高性能推理框架,支持 DeepSeek-V4.1-Flash 的离线推理。框架提供 Attention DP、MoE EP + EPLB、异步批调度、确定性采样和结构化输出,并支持 NVIDIA SM100 GPU 与华为昇腾 950 NPU;完整生产推理服务所需的部分组件尚未包含在本次发布中。
Exa 发布面向 AI 智能体的 Exa 3.0 搜索 API,升级更大规模的嵌入模型,并推出每 1,000 次请求 $4 的 Exa Lite。Dynamic Highlights 正式可用,Exa 称其较完整页面文本减少 95% token 使用且不额外收费。
Terminal X 使用 GPT-6.1 Sol 评估输出,其 Eval Agent 按 54 项标准评分,与资深投资者判断的一致率达到 88.6%,并从基金授权范围中识别出多 25% 的偏差。
Hugging Face 发布 TorchTPU,将 TPU 集成到 PyTorch,并让 Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上。
推荐理由:TorchTPU把TPU纳入PyTorch原生后端,并披露Transformers、Diffusers与Kernels的运行方式及测试进度,便于评估迁移成本与成熟度。
AnyLanguageModel 1.0 发布,同时推出 swift-huggingface 1.0 和 swift-xet 1.0,为 Swift 应用提供统一的本地与托管模型 API。
推荐理由:通过同一套 API 串起系统模型、开放权重模型和多家托管服务,开发者可按资源需求选择推理方式并参考迁移指南更新应用。
llm-tools-datasette 0.1.1 出现在 Simon Willison 的博客与 @simonw 记录中。正文由 Teleport 赞助,说明 AI agents 及其生成的 sub-agents 拥有与人类相同的访问权限,并强调可通过隔离的 ephemeral trusted runtimes 监控和约束其行为。
llm-echo 0.5 发布,模拟 token 用量统计现已涵盖工具调用、系统提示词和推理 token。该插件不调用 LLM,只回显输入提示词,并可通过 uvx 以 echo 模型配合 thinking 和 --usage 选项调试输出与用量。
NVIDIA RTX Spark 笔记本现已上市,搭载 NVIDIA Blackwell RTX 显卡,最高配备 128GB 统一内存和 1 petaflop AI 算力,起售价为 $2,399。
Cursor 为 Cloud Agent 增加交互式画布支持,并开放 Environments API 测试版,可通过程序创建和管理智能体运行的云端环境。完成后的画布可通过链接分享给团队。Cloud Agent 环境最多支持 300 个代码仓库,大型环境加载速度提升 5 倍。
推荐理由:Cursor 扩展了 Cloud Agent 的协作画布与云端环境管理能力,并披露了环境规模和加载速度的变化。
Anthropic 扩大了 Claude 的反蒸馏防护,通过限制推理上下文迁移、拦截提取请求和加强账号限制,降低模型能力被大规模采集的风险。Anthropic 称,早期证据显示被采集数据减少约 90% 至 99%,分类器上线后提取的推理 token 降至原来的 1/10 至 1/100,误判率低于 0.1%。相关措施也带来部分开发者需更新集成、少量正常请求被拦截,以及被拦截请求恢复收费等代价。
推荐理由:Anthropic 公开了三层反蒸馏机制及实测效果,并说明对合法用户集成、误拦截和计费的影响,适合开发者评估防护成本。
retro-arg-engine 以 Project Stardust 形式构建 CRE-7 主题的 15-Gate LLM 密码学基准,覆盖位运算、模 65536 求和、Motorola 68000 指令反演和 Luby-Rackoff Feistel 密码。
Ben's Bites 汇总个人智能体热潮下的产品发布、模型更新和工具动态,涉及 ChatGPT 界面式回答、Claude Haiku 5.5 降本及 Google Nano Banana 2.1 上线。作者还分享了智能体权限风险案例,并介绍其用于集中连接其他应用和技能的 Executor v2。
Anthropic 启动长期网络安全计划 Cyber Mission,并推出 Critical Infrastructure Defense Program 与免费的 OSS Scanner。
推荐理由:文章拆解关键基础设施防御计划与免费开源扫描服务的协作机制,并说明误报风险与后续扩展路径。
Google 今天推出实验性游戏创作平台 Playground,用户无需编程即可通过文本提示创建、试玩和分享自定义游戏。平台支持手机和笔记本电脑跨设备游玩,部分类型提供多人游戏与排行榜,发布内容会接受安全筛查和用户举报。Playground 面向美国 18 岁以上用户开放,创作权限按 Google AI 订阅层级逐步推出;Unity Spark 集成仍在测试中,封闭测试将陆续开放。
推荐理由:Playground 展示了从文本描述到游戏发布、试玩和分享的完整流程,也交代了多人生效、排行榜及 Unity Spark 集成计划。
Anthropic 推出扩展版 Cyber Verification Program(CVP),向符合条件的安全专业人员提供三级访问权限,并纳入 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Mythos 5.1 等模型。
推荐理由:Anthropic 将网络安全验证计划扩展为三级访问机制,并公开不同层级的权限边界、评测结果与申请方式,便于安全团队评估参与路径。
Cursor iOS 应用现在支持查看并回复运行在电脑上的本地智能体,配对后可在应用中查看其状态或发送消息。智能体仍在本机运行,电脑需保持开机且联网,也可开启“Keep this computer awake”避免休眠;该功能默认开启,但 Enterprise 组织需由管理员在组织设置中启用。
推荐理由:Cursor iOS 应用新增远程控制本地智能体功能,并明确了配对、保持电脑在线及企业管理员设置等使用条件。
Google 汇总了 2026 年 9 月的 AI 更新,Gemini 4 Argon 以 1-million-token 输出上限成为重点。同期还推出 Gemini 3.8 Flash、Gemini 3.8 Flash Cyber 与 Gemini 3.8 Live,并为 Gemini App 增加 Connected Apps。
Anthropic投入 $100 million 推出 Claude Frontier Academy,目标是在 2027 年底前培养 10,000 名 Frontier Deployed Engineers。首期项目涵盖模拟企业部署和 12 周真实业务驻留,工程师在完成安全审查、交付及能力评估后获得相应认证,首批学员来自 Accenture、Bain、Capgemini 等机构。
推荐理由:项目通过模拟企业部署、实战项目和能力评估培养人才,其训练与认证流程可供企业 AI 人才培养参考。
Cursor 发布 Rollouts 和 Security Review 两个智能体,用于代码交付末期的部署监测与 PR 安全审查。
推荐理由:Cursor 同时推出部署监测与代码安全审查智能体,覆盖 PR、部署和漏洞报告等环节,并提供可配置规则。
Anthropic 推出 Life Sciences Verification Program(LSVP),向生命科学专业人员开放 Mythos、Opus 和 Sonnet 模型申请,程序目前以 beta 形式面向团队和机构。
推荐理由:Anthropic公开了生命科学访问计划的模型范围、授权层级与审核机制,并说明其如何兼顾科研任务和安全监测。
Cursor 发布 Projects,支持围绕功能开发、迁移和完整应用维护长期上下文,并并行委派任务给子智能体。项目运行在云端独立计算机中,可跨云端和本地同步文件与工作上下文;协调智能体负责规划、分派和回收结果,还可按计划监控 Slack、PR 等信号。Projects 现已进入 beta 阶段,并从今天起向所有用户逐步开放。
推荐理由:Cursor Projects 通过持续上下文、并行子智能体和云端运行环境,支持更大规模开发任务,适合关注智能体协作与自动化工作流的读者。
Anthropic 发布 Enterprise Frontier Safeguards,将零数据保留与跨时间、跨账户滥用检测结合。活动数据可存储在客户自有云账户中,由客户控制加密密钥、访问策略和审计记录。
Anthropic 面向首批科研实验室和先进制造商开放 Model Hardware Standard(MHS)研究预览,旨在让 AI 智能体安全操作多台物理设备。
推荐理由:MHS 提供跨设备统一驱动与控制机制,并展示 AI 智能体编排实验、实时调参和故障恢复的实践路径。
Anthropic 宣布面向全球科学家开放 10,000 个 Claude 团队计划席位,标准席位免费,5 倍使用额度的 premium 席位价格为每月 $15,期限为一年。
推荐理由:Anthropic 面向全球科学家开放 Claude 订阅席位,并扩大 AI for Science 项目的资助范围和使用限制说明。