AGI Hunt· Key_Coconut_9269·· 3 小时前AI 评分60
本地向量路由在 100k 工具中实现 70.7% top-1 准确率和 9.6ms 延迟
本地向量路由 100k 工具 top-1 达 70.7%、延迟 9.6ms,吊打 BM25
AI 导读
本地向量网格在 100k 合成工具端点的冷缓存测试中达到 70.7% 的 top-1 准确率和 9.56ms 延迟。该方案使用 all-MiniLM-L6-v2、chromadb HNSW 和分离执行守护进程,将工具名、描述、schema 键及 tags 合并为单一 profile 向量。
来源:AGI Hunt · agihunt.info