跳到正文
GitHub 新星仓库·· 8 天前精选AI 评分77

reported-or-invented:测量 AI 智能体在工具静默失败时编造数据的频率

elmaroun07-hub/reported-or-invented

AI 导读

reported-or-invented 通过本地 mock API 和 mitmproxy 故障注入,测量 AI 智能体在工具静默失败时是否把编造数据当作事实上报,并提供可复跑的评审脚本。

推荐理由

仓库提供可复跑的故障注入与规则评审框架,并区分静默失败下的编造、替换和如实上报,便于横向比较智能体行为。

来源:GitHub 新星仓库 · github.com