AGI Hunt· Jay299792458·· 3 小时前AI 评分48
开源工具 execution-state-preflight 记录 LLM agent 参数来源并检测提示注入
开源工具在工具执行前记录 LLM agent 参数来源,可检测提示注入
AI 导读
开发者开源 agent 安全测试框架 execution-state-preflight,在工具执行前记录每个工具参数的来源。它可测量相同输入是否产生相同决策,并检测模型是否将他人的文本内容当作参数,识别 prompt injection 与参数来源污染;仓库还提供 hooks 示例和文档。
来源:AGI Hunt · agihunt.info