GitHub 新星仓库·· 3 小时前AI 评分50
GoalFault AI:测试工具型 AI 智能体策略合规与目标错位的实验室
ChinmayBitne/goalfault-ai
AI 导读
GoalFault AI 提供一个轻量实验室,用于测试工具型 AI 智能体的策略合规性与目标错位。它会提出高风险场景,经人工批准后仅在隔离的模拟业务环境中执行,并依据实际工具调用记录生成证据、缩减反例及重放防护规则。项目已集成 Meta Muse Spark,但认证、实时请求验证、完整基准测试和形式化验证尚未完成。
来源:GitHub 新星仓库 · github.com