跳到正文
AGI Hunt· Teknium·· 2 小时前AI 评分70

Nous Research 用 tool search 延迟加载工具以缓解 agent 上下文膨胀

Nous Research 用工具延迟加载解决 agent 上下文爆炸

AI 导读

Nous Research 的 Teknium 提出将全部工具置入 tool search 进行延迟加载,以解决 agent 上下文窗口被工具定义撑爆的问题。以打包约 800 个工具的 Unreal Engine MCP 为例,采用该方案后上下文消耗约 3K tokens,而用户仅加载基础 prompt 时已需要约 79-80K tokens,超过 64K 窗口。

来源:AGI Hunt · agihunt.info