跳到正文
GitHub 新星仓库·· 3 小时前AI 评分50

GoalFault AI:测试工具型 AI 智能体策略合规与目标错位的实验室

ChinmayBitne/goalfault-ai

AI 导读

GoalFault AI 提供一个轻量实验室,用于测试工具型 AI 智能体的策略合规性与目标错位。它会提出高风险场景,经人工批准后仅在隔离的模拟业务环境中执行,并依据实际工具调用记录生成证据、缩减反例及重放防护规则。项目已集成 Meta Muse Spark,但认证、实时请求验证、完整基准测试和形式化验证尚未完成。

来源:GitHub 新星仓库 · github.com