Teknium提议以上下文检索降低长会话成本
热点事件持续更新
Teknium提议以上下文检索降低长会话成本
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Nous Research 的 Teknium 表示,当单次 Agent 会话上下文超过 100K token 时,现有方案成本更高,改用上限更高且更简单的 context retrieval(上下文检索)方案更划算。他正考虑将该方案加入 Hermes,并邀请参与者通过 Nous 正在举办的插件黑客松开发插件,以收集真实测试数据;目前该方案仍处于提议和测试准备阶段。
AI 根据报道生成 · 1 小时前更新
最新进展11月7日 17:17
Teknium:会话上下文超过 100K token 时,上下文检索更划算报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- AGI HuntTeknium:会话上下文超过 100K token 时,上下文检索更划算
Nous Research 的 Teknium 表示,单次会话上下文超过 100K 时,现有方案成本更高,采用上限更高的 context retrieval 更划算。他考虑将其加入 Hermes,并邀请对方参加 Nous 正在举办的 plugin 黑客松,以插件形式收集真实测试数据。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。