TUM 论文揭示大模型组合任务中的隐式思考预算机制导致错误率上升
TUM 团队在 HF 发布论文《On the Fragility of Tasks under Composition》,揭示大模型在单条 prompt 中组合多个任务时的失效机制。开源模型和 Claude Opus 5 在组合任务中分配到更少思考 token,错误率随之上升。按任务脆弱性分组后,数学和语言任务可减少 43% token 用量并保持准确率。
TUM 团队在 HF 发布论文《On the Fragility of Tasks under Composition》,揭示大模型在单条 prompt 中组合多个任务时的失效机制。开源模型和 Claude Opus 5 在组合任务中分配到更少思考 token,错误率随之上升。按任务脆弱性分组后,数学和语言任务可减少 43% token 用量并保持准确率。
Anthropic 与 Citrini Research 使用内部 Claude 模型,自主生成针对五种蝎子神经毒素的蛋白质 minibinder,并测试了 211 种设计。这项工作以 Claude 模型完成候选蛋白设计生成,并在五种蝎子神经毒素场景下评估 211 种设计。
Anthropic 发布研究,说明如何让 Claude 通过默认配置、配置交互和早期可达性分析发现代码攻击面问题。Claude 在 25 个开源项目中发现 493 个问题,并将其中的方法整理为可复用 Skill。OpenSSH 案例中,Claude 发现默认配置下约 4,500 行 ML-DSA-44 代码可被未认证客户端触及,相关检查和修复已随 10.6 版本发布。
Claude Science 中的 Claude 自主为五种蝎子毒素生成了 318,484 个蛋白质结合分子设计,研究团队随后通过额外指令引导筛选并测试 211 个候选。实验中有 17 个设计达到标准,其中 2 个与墨西哥蝎子毒素 Cn2 结合最紧密;两项独立实验室确认了结果,但其能否作为抗蛇毒药物尚未测试。
Ai2 发布 FairStress 基准,以 29 个领域的 300 个双候选人决策场景和超过 1300 万个测试用例,评估 LLM 在人口统计身份与对抗性前缀影响下的决策稳健性。实验发现,模型在明确标注身份时放弃正确答案的平均差距达到 9.3 个百分点,部分前沿模型在模糊案例中约有 60%–65% 的概率选择少数群体编码候选人。研究还表明,仅依赖固定选项评分可能遗漏生成式决策中的过度纠正。
ALTK-Evolve 从智能体训练轨迹中提炼行为规则并附加到系统提示词,不更新模型权重即可提升 τ²-bench 客服任务表现。使用 gpt-4.1 时,零售 held-out 任务的 Pass^4 达到 67.5%,在 October 12, 2026 排行榜快照中排名第一;gpt-5.5 在航空任务上的 Pass^4 达到 82.0%,同样排名第一。
Import AI 475 汇总了 AI 智能体集群扩展、AI 监管民调、Google DeepMind 的 SynthID Bio、自动科学实验基准 SciUniverse,以及面向自主科学发现的科学经济研究。