跳到正文
AGI Hunt· OkSkirt1039·· 1 小时前AI 评分70

llm-mock 开源,支持四大 LLM 接口的确定性 CI Mock 服务

开源 llm-mock:CI 无需真实 API key,mock 四大 LLM 接口且响应确定化

AI 导读

开发者开源 llm-mock,通过修改 base URL 接入官方 SDK,在 CI 中确定性模拟四家 LLM 服务。它支持 OpenAI、Anthropic、Gemini 和 Azure OpenAI,覆盖聊天、Responses、Messages、工具调用、嵌入、文件、批处理、token 计数与 SSE 流式接口,并可模拟各类厂商错误格式。

来源:AGI Hunt · agihunt.info