讲解工具调用的文本协议与网关循环

Main-Fisherman-2075 讲解工具调用的实现机制，认为 tool calling 本质上是注入 Prompt、由服务端解析的文本协议，并非模型专用通道；并分享自建网关的工具循环设计。 其做法是将每个工具结果截断至 64 KB，并附上“[cut: N more bytes]”提示；工具执行失败时返回“Error:”文本而非终止整个请求，最后一轮关闭工具以迫使模型作答。其称 LiteLLM proxy 仅运行一轮工具便返回，并原样粘贴工具输出。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。