跳到正文
AGI Hunt· baseten·· 2 小时前AI 评分66

Baseten Model API 上线 DeepSeek、Kimi、GLM 延迟工具加载

Baseten 上线延迟工具加载:agent 成本降 62%、速度提 26%

AI 导读

Baseten Model API 正式支持 DeepSeek、Kimi、GLM 的 deferred tool loading,通过延迟加载工具定义来缩减 prompt 体积。在相同模型与 harness 的编码基准中,智能体运行成本最多降低 62%,速度提升 26%,该功能已在 Model API 上开箱可用。

来源:AGI Hunt · agihunt.info