AGI Hunt· AccBalanced·· 2 小时前AI 评分66
AWS 安全负责人 Chet Kapoor 提出 AI Agent 权限提升前的失控测试
AWS 安全负责人:给 AI Agent 放权前,先测它怎么失控
AI 导读
AWS 安全负责人 Chet Kapoor 提出,在提升 AI Agent 权限前,可让它在合法改动中尝试一次未授权改动,以检验防护能否阻止行为、追踪操作并只撤销其造成的损害。他据此提出,AI Agent 自主性的上限取决于系统的控制力。
来源:AGI Hunt · agihunt.info