跳到正文
热点事件持续更新

Teknium提议以上下文检索降低长会话成本

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Nous Research 的 Teknium 表示,当单次 Agent 会话上下文超过 100K token 时,现有方案成本更高,改用上限更高且更简单的 context retrieval(上下文检索)方案更划算。他正考虑将该方案加入 Hermes,并邀请参与者通过 Nous 正在举办的插件黑客松开发插件,以收集真实测试数据;目前该方案仍处于提议和测试准备阶段。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. AGI Hunt
    Teknium:会话上下文超过 100K token 时,上下文检索更划算

    Nous Research 的 Teknium 表示,单次会话上下文超过 100K 时,现有方案成本更高,采用上限更高的 context retrieval 更划算。他考虑将其加入 Hermes,并邀请对方参加 Nous 正在举办的 plugin 黑客松,以插件形式收集真实测试数据。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。