跳到正文
AGI Hunt· 2077AIDataFoundation·· 4 小时前AI 评分51

UC Davis、2077AI 与 USC 团队发布 HALO 基准,过度主动成主动式 Agent 主要失败模式

HALO 基准:人类标注评估主动式 Agent,过度主动成主要失败模式

AI 导读

UC Davis、2077AI 与 USC 团队发布 HALO 基准与数据集,用于评估主动式 Agent 在无显式请求时决定是否、何时以及介入多深。HALO-Arena 覆盖依赖、阻碍、风险、机会 4 类主动需求,横跨 10 个日常领域和 50 个个人环境,并采用人类标注进行细粒度评估。研究发现,过度主动是主动式 Agent 的主要失败模式,有用介入需要识别何时应克制。

来源:AGI Hunt · agihunt.info