跳到正文
AGI Hunt· huawei-noah·· 55 分钟前AI 评分48

华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA:推理时检测 GUI Agent 视觉触发后门

华为 Noah+HKUST 提出 IDEA:推理时检测 GUI Agent 视觉触发后门

AI 导读

华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA,用于在推理时检测 GUI Agent 的视觉触发后门。该方法逐步比较指令驱动与区域驱动的决策状态偏移,并与干净步骤的 conformal 基线对照,可标记触发器、定位触发区域并触发人工接管,同时控制误报率。

来源:AGI Hunt · agihunt.info