AGI Hunt· blaizedsouza·· 1 小时前AI 评分26
DominikTornow:AI agent 护栏正从硬约束变成自写测试与评审
「护栏」正在被重新定义:从硬约束变成 agent 自己写的测试
AI 导读
DominikTornow 指出,「guardrails」正从硬性约束被改写为 agent 自己编写的测试和 agent 评审者。他认为,行业尚未找到为 agentic code 加上护栏的有效办法,借重定义术语制造可控感,可能掏空安全实践的实质。
来源:AGI Hunt · agihunt.info