Genentech发布SilentGuard静默失败拦截研究
热点事件持续更新
Genentech发布SilentGuard静默失败拦截研究
1 篇报道1 个报道来源37 分钟前更新
先了解这件事
AI 综述
Genentech发布SilentGuard论文,提出在运行工具调用的harness层检验API返回值,以拦截智能体未察觉的静默失败。研究显示,对一种新故障类型,仅靠该层校验可将错误率从61.1%降至24.5%,但机制是弃答而非生成正确答案。 论文在15个公共研究API中发现11个存在静默失败,如过滤器名写错仍返回成功状态和看似合理的结果;这类问题可能令计数虚高至691倍。
AI 根据报道生成 · 16 分钟前更新
最新进展11月18日 03:17
SilentGuard 论文:在 harness 层拦截 LLM agent 的 API 静默失败报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- AGI HuntSilentGuard 论文:在 harness 层拦截 LLM agent 的 API 静默失败
Genentech 发布 SilentGuard 论文,在 LLM agent 调用 API 时由 harness 层利用不变式检验返回结果,不满足条件便直接扣留。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。