Giraffe 开源工具用于大模型服务变更回归测试

Giraffe 开发者发布开源工具 Giraffe，用于比较 OpenAI 兼容大模型服务接口在配置变更前后的负载表现。用户可基于保存的基线，检查响应时间、流式输出卡顿、答案正确性、结构化 JSON、tool-call 行为，以及长提示词下短请求的表现。 该工具提供命令行界面和本地浏览器界面，主要适合自托管或本地部署大模型的团队开展服务变更回归测试；开发者正在招募 alpha 测试者。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。