跳到正文
AGI Hunt· Zachly·· 1 小时前AI 评分59

AI Agent 护栏分为输入、输出与工具三类

AI Agent 护栏分三类:输入、输出与限流的工具护栏

AI 导读

作者将 AI Agent 护栏分为输入护栏、输出护栏和工具护栏三类。输入护栏用于拦截不当或离题内容,输出护栏在返回用户前校验模型生成结果,工具护栏则保护并限制工具调用,其中限流最为重要。

来源:AGI Hunt · agihunt.info