跳到正文
热点事件持续更新

Genentech发布SilentGuard静默失败拦截研究

1 篇报道1 个报道来源37 分钟前更新

先了解这件事

AI 综述

Genentech发布SilentGuard论文,提出在运行工具调用的harness层检验API返回值,以拦截智能体未察觉的静默失败。研究显示,对一种新故障类型,仅靠该层校验可将错误率从61.1%降至24.5%,但机制是弃答而非生成正确答案。 论文在15个公共研究API中发现11个存在静默失败,如过滤器名写错仍返回成功状态和看似合理的结果;这类问题可能令计数虚高至691倍。

AI 根据报道生成 · 16 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    SilentGuard 论文:在 harness 层拦截 LLM agent 的 API 静默失败

    Genentech 发布 SilentGuard 论文,在 LLM agent 调用 API 时由 harness 层利用不变式检验返回结果,不满足条件便直接扣留。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。