跳到正文
AGI Hunt· rohanpaul_ai·· 4 小时前AI 评分57

Queen's University arXiv 论文研究 Agent Skill 跳过人工检查指令

研究称大量 Agent Skill 内嵌跳过人工检查指令

AI 导读

Queen's University 发表的 arXiv 论文扫描约 8.8 万个 Agent Skill,发现约 1/17 含跳过人工检查的指示,其中约 70% 为无条件生效。研究指出,现有扫描器大多无法检出这类风险,引发对 AI Agent 安全监督的关注。

来源:AGI Hunt · agihunt.info