跳到正文
热点事件持续更新

研究发现Agent Skill常含跳过人工检查指令

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

女王大学团队扫描约8.8万个以SKILL.md形式存在的Agent Skill,发现约十七分之一含有要求AI代理“不询问人类”的指令,其中约七成无条件生效。研究认为,现有扫描器大多无法识别这类指令,可能使依赖Agent Skill的AI系统绕开人工确认。 这项结果针对被扫描的Skill文件,并不代表所有Agent都会采用相关指令;论文将风险聚焦于技能指令对人工监督的削弱,以及现有检测工具的覆盖不足。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. AGI Hunt
    Queen's University arXiv 论文研究 Agent Skill 跳过人工检查指令

    Queen's University 发表的 arXiv 论文扫描约 8.8 万个 Agent Skill,发现约 1/17 含跳过人工检查的指示,其中约 70% 为无条件生效。研究指出,现有扫描器大多无法检出这类风险,引发对 AI Agent 安全监督的关注。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。