跳到正文
热点事件持续更新

三机构提出IDEA检测视觉触发后门

1 篇报道1 个报道来源41 分钟前更新

先了解这件事

AI 综述

华为诺亚方舟实验室、香港科技大学与北京大学提出IDEA,用于在推理时检测GUI Agent中的视觉触发后门。该方法逐步比较指令驱动与区域驱动的决策状态偏移,并以干净步骤的conformal基线作对照。 据提出团队介绍,IDEA可标记触发器、定位触发区域并触发人工接管,同时控制误报率。

AI 根据报道生成 · 22 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA:推理时检测 GUI Agent 视觉触发后门

    华为 Noah's Ark Lab、HKUST 与北京大学提出 IDEA,用于在推理时检测 GUI Agent 的视觉触发后门。该方法逐步比较指令驱动与区域驱动的决策状态偏移,并与干净步骤的 conformal 基线对照,可标记触发器、定位触发区域并触发人工接管,同时控制误报率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。