跳到正文
AGI Hunt· viksit·· 2 小时前AI 评分62

Myra 自改进 Agent 采用外置发布控制器与 Passkey 人工审批

自改进 Agent 如何防失控:发布控制器隔离在外,Passkey 人工审批

AI 导读

开发者 viksit 分享了基于 pi-durable 构建的自改进 Agent「Myra」的安全架构。Myra 先在隔离工作区准备候选版本,并展示 diff、测试结果与预览,由作者通过独立审核页面使用 passkey 批准绑定该候选的变更。发布控制器位于 Agent 可编辑范围之外,独掌审批、发布检查和回滚,候选变化后需重新审批;启动失败时会自动回滚并记录。

来源:AGI Hunt · agihunt.info