Ubicloud用约束解码提升工具调用准确率
热点事件持续更新
Ubicloud用约束解码提升工具调用准确率
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Ubicloud称，其在vLLM中启用约束解码后，Kimi和DeepSeek所服务的模型在K2VV ToolCall基准上的工具调用schema准确率由92%升至100%，并在验证所有线上模型版本后部署到生产环境。 该功能可通过vLLM 0.31的服务端参数`--tool-strict-level`按部署启用，并非所有操作默认免费或自动生效。Ubicloud还指出，部分模型若默认开启约束解码，可能因模型适配、语法转换及功能交互问题导致输出质量下降。
AI 根据报道生成 · 57 分钟前更新
最新进展10月26日 20:59
vLLM 使用约束解码修复工具调用准确率问题报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- Hacker NewsvLLM 使用约束解码修复工具调用准确率问题
Ubicloud 通过 vLLM 约束解码提升 Kimi 和 DeepSeek 的工具调用 schema 准确率。团队在 K2VV ToolCall 基准上将准确率从 92% 提升至 100%，并在 vLLM 0.31 中通过服务端参数启用该功能。文章还分析了默认启用后部分模型出现质量下降的模型适配、语法转换和功能交互问题。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。