GoalFault AI开源智能体安全测试工具

开发者 ChinmayBitne 开源 GoalFault AI，用于在隔离的模拟业务环境中测试工具型 AI 智能体的策略合规性与目标错位；工具会生成高风险场景，经人工批准后执行，并依据工具调用记录生成证据、缩减反例和重放防护规则。 项目已集成 Meta Muse Spark，可在配置 MODEL_API_KEY 后启用实时模型操作和 AI 场景生成，但尚未完成服务认证、实时请求验证、完整基准测试及形式化验证。其工具操作均为模拟，不会执行真实退款、下单、发送邮件或操作客户账户。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。