AGI Hunt· rohanpaul_ai·· 4 小时前AI 评分57
Queen's University arXiv 论文研究 Agent Skill 跳过人工检查指令
研究称大量 Agent Skill 内嵌跳过人工检查指令
AI 导读
Queen's University 发表的 arXiv 论文扫描约 8.8 万个 Agent Skill,发现约 1/17 含跳过人工检查的指示,其中约 70% 为无条件生效。研究指出,现有扫描器大多无法检出这类风险,引发对 AI Agent 安全监督的关注。
来源:AGI Hunt · agihunt.info