三机构提出IDEA检测视觉触发后门
热点事件持续更新
三机构提出IDEA检测视觉触发后门
1 篇报道1 个报道来源41 分钟前更新
先了解这件事
AI 综述
华为诺亚方舟实验室、香港科技大学与北京大学提出IDEA,用于在推理时检测GUI Agent中的视觉触发后门。该方法逐步比较指令驱动与区域驱动的决策状态偏移,并以干净步骤的conformal基线作对照。 据提出团队介绍,IDEA可标记触发器、定位触发区域并触发人工接管,同时控制误报率。
AI 根据报道生成 · 22 分钟前更新
最新进展11月19日 11:17
华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA:推理时检测 GUI Agent 视觉触发后门报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI Hunt华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA:推理时检测 GUI Agent 视觉触发后门
华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA,用于在推理时检测 GUI Agent 的视觉触发后门。该方法逐步比较指令驱动与区域驱动的决策状态偏移,并与干净步骤的 conformal 基线对照,可标记触发器、定位触发区域并触发人工接管,同时控制误报率。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。