AGI Hunt· Teknium·· 2 小时前AI 评分70
Nous Research 用 tool search 延迟加载工具以缓解 agent 上下文膨胀
Nous Research 用工具延迟加载解决 agent 上下文爆炸
AI 导读
Nous Research 的 Teknium 提出将全部工具置入 tool search 进行延迟加载,以解决 agent 上下文窗口被工具定义撑爆的问题。以打包约 800 个工具的 Unreal Engine MCP 为例,采用该方案后上下文消耗约 3K tokens,而用户仅加载基础 prompt 时已需要约 79-80K tokens,超过 64K 窗口。
来源:AGI Hunt · agihunt.info