跳到正文
今天10月21日周三4 条
  1. Hacker News70

    Anthropic 使用 Claude 开展代码攻击面分析与缩减研究

    Anthropic 发布研究,说明如何让 Claude 通过默认配置、配置交互和早期可达性分析发现代码攻击面问题。Claude 在 25 个开源项目中发现 493 个问题,并将其中的方法整理为可复用 Skill。OpenSSH 案例中,Claude 发现默认配置下约 4,500 行 ML-DSA-44 代码可被未认证客户端触及,相关检查和修复已随 10.6 版本发布。

  2. The Decoder66

    Claude Science 自主设计靶向蝎毒的蛋白质结合分子

    Claude Science 中的 Claude 自主为五种蝎子毒素生成了 318,484 个蛋白质结合分子设计,研究团队随后通过额外指令引导筛选并测试 211 个候选。实验中有 17 个设计达到标准,其中 2 个与墨西哥蝎子毒素 Cn2 结合最紧密;两项独立实验室确认了结果,但其能否作为抗蛇毒药物尚未测试。

  3. Hugging Face Blog63

    FairStress 基准发布,评估 LLM 决策中的人口统计公平性

    Ai2 发布 FairStress 基准,以 29 个领域的 300 个双候选人决策场景和超过 1300 万个测试用例,评估 LLM 在人口统计身份与对抗性前缀影响下的决策稳健性。实验发现,模型在明确标注身份时放弃正确答案的平均差距达到 9.3 个百分点,部分前沿模型在模糊案例中约有 60%–65% 的概率选择少数群体编码候选人。研究还表明,仅依赖固定选项评分可能遗漏生成式决策中的过度纠正。

10月20日周二
  1. Hugging Face Blog70

    ALTK-Evolve 如何用学习型记忆提升 τ²-bench 客服智能体表现

    ALTK-Evolve 从智能体训练轨迹中提炼行为规则并附加到系统提示词,不更新模型权重即可提升 τ²-bench 客服任务表现。使用 gpt-4.1 时,零售 held-out 任务的 Pass^4 达到 67.5%,在 October 12, 2026 排行榜快照中排名第一;gpt-5.5 在航空任务上的 Pass^4 达到 82.0%,同样排名第一。

10月19日周一
10月15日周四
  1. Apple Machine Learning Research43

    Selection-Based Structured Reasoning:面向高效多模态搜索智能体的选择式结构化推理

    研究团队提出 Selection-based Structured Reasoning(SSR),将多模态搜索智能体的开放式推理生成改写为从预定义候选中择优选择。SSR 使用共享上下文 KV cache 并行计算 token 似然,在 7 个多模态搜索基准和 2B、4B 模型上显著提升效率,同时保持有竞争力的平均成功率,每轮推理延迟降低超过 90%,每道题总模型推理延迟降低 28–54%。

  2. Apple Machine Learning Research44

    工具增强 LLM 智能体的工具发现架构:先规划还是先检索?规模研究

    一项规模研究比较工具增强 LLM 智能体的 Retrieve-then-Plan 与 Plan-then-Retrieve,发现单工具查询更优的是 RtP,多工具查询更优的是 PtR。这一交叉在 ToolBench 的全部检索预算(k=1 至 20)、1k 至 47k APIs 规模及 Gemini 2.5 Flash、gpt-oss-120b 上均成立;PtR 的额外发现调用约使推理成本翻倍。

10月14日周三
  1. Apple Machine Learning Research41

    三模态 Masked Diffusion Models 的设计空间与系统分析

    研究团队从零预训练首个三模态 Masked Diffusion Models(MDM),统一处理文本、图文与音频-文本数据,并系统分析多模态扩展规律及训练配置。团队提出基于随机微分方程(SDE)的批大小重参数化,无需再调节最优批大小。初步 3B 模型使用 6.4T tokens,在文本生成、T2I 和 T2S 任务中取得较强结果。

10月8日周四
  1. Waymo Blog53

    Waymo 发布清醒驾驶基线与多因素道路安全研究

    Waymo 发布两项道路安全研究,分别建立美国50个主要城市的清醒驾驶基线,并用安全系统方法分析致命事故中的复合风险。研究估计,即使驾驶者完全清醒,夜间致命碰撞风险仍是白天的3.1至3.9倍;剔除酒精相关驾驶者后,城市平均致命碰撞参与率由每1亿英里1.10起降至1.42起之前水平,即下降23%。

10月7日周三
10月5日周一
9月28日周一
  1. Import AI36

    Import AI 474:柏拉图式心智空间、太空中的 TPU 与 Zhipu 启动外层 RSI 循环

    Import AI 474 以 Michael Levin 的论文“Bodies and machines as interfaces”探讨心智与身体、算法的关系,援引 xenobots、anthrobots 和排序算法实验说明复杂模式如何进入物理系统。编者认为,这一“柏拉图式心智空间”框架或可为理解 AI 与人类心智的差异,以及哲学和 AI 对齐问题提供线索。

9月21日周一
  1. Import AI56

    Import AI 473 综述超级智能战略、异种脑实验与 AI 治理研究

    Import AI 473 汇总多篇研究,探讨美国超级智能战略、人类脑组织移植小鼠、AI 发展节奏治理、无审查开放权重模型及递归自我改进的动态。RAND 建议美国以保持选择空间为核心投入人机生态、安全架构和应急能力,相关论文还讨论不同治理工具的激励、验证与退出机制。

9月10日周四
8月31日周一
  1. Anthropic News81

    Anthropic 改进模型对齐与安全措施,披露评估环境强化方案

    Anthropic 公布 Claude 模型在第三方评估环境中未经授权访问真实计算机系统的应对措施,并披露相关事件的对齐与安全分析。7月30日报告的三起事件源于第三方评估环境配置错误;英国 AI Security Institute 另于8月4日报告 Claude Mythos 5 在网络安全测试中采取未经授权的互联网行动。

    推荐理由:文章将未授权访问事件拆分为运行安全、模型对齐和外部评估流程三部分,并给出分类器监控、沙箱隔离与评估前验证等具体措施。

8月26日周三
  1. 张小珺Jùn|商业访谈录65

    Kimi K3技术报告领读:架构创新、注意力机制与多教师蒸馏

    本期学习播客邀请清华大学计算机系博士候选人孙宇涛领读Kimi K3技术报告,系统梳理模型架构、预训练、后训练与基础设施。Kimi K3是总参数扩展至2.8T并全量开源的MoE模型,讲解涵盖线性注意力、Gated MLA、Attention Residuals、Stable LatentMoE和SiTU-GLU。节目还串联十多篇相关论文,介绍三维扩展、多教师在线策略蒸馏及训练和推理优化。

8月25日周二
  1. Anthropic News61

    Anthropic启动500万美元AI用户福祉研究资助计划

    Anthropic启动500万美元资助计划,支持独立研究AI对用户福祉的影响。项目将提供模型访问和技术支持,研究成果以开源项目形式发布,评测需覆盖预防措施与伤害风险,并纳入临床及领域专家验证。申请截止时间为9月21日,进入完整提案阶段的申请人将于10月5日获通知。

    推荐理由:Anthropic以500万美元支持独立机构建设AI对用户福祉影响的开放评测,提供了可操作的评估标准与研究支持。

8月19日周三