AGI Hunt· viksit·· 2 小时前AI 评分62
Myra 自改进 Agent 采用外置发布控制器与 Passkey 人工审批
自改进 Agent 如何防失控:发布控制器隔离在外,Passkey 人工审批
AI 导读
开发者 viksit 分享了基于 pi-durable 构建的自改进 Agent「Myra」的安全架构。Myra 先在隔离工作区准备候选版本,并展示 diff、测试结果与预览,由作者通过独立审核页面使用 passkey 批准绑定该候选的变更。发布控制器位于 Agent 可编辑范围之外,独掌审批、发布检查和回滚,候选变化后需重新审批;启动失败时会自动回滚并记录。
来源:AGI Hunt · agihunt.info