AGI Hunt· ombre-ai·· 3 小时前AI 评分47
arXiv 论文揭示多跳 AI 智能体交接后 97.2% 安全约束失效
多跳 agent 交接后 97.2% 安全约束失效,arXiv 论文揭示约束弱化
AI 导读
arXiv 论文《When 'Must' Becomes 'Maybe'》揭示,多跳 AI 智能体交接经压缩或所有权转移后,安全阻断约束最高有 97.2% 失效。状态直接传递时阻断项全部保留;所有权转移下 76.7% 失效,多跳压缩下高达 97.2%。恢复完整阻断描述后,识别率由 6.2% 升至 99.2%,违禁行为由 85.2% 降至 0。
来源:AGI Hunt · agihunt.info