跳到正文
热点事件持续更新

ShiftRAG公开论文与代码

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Youmin Ko 等公开 ShiftRAG 的论文与代码。该方法通过连续软令牌,将检索器的判别性对齐信号直接注入生成器,并在单一 LLM 骨干中分离检索学习与自回归生成。 论文称,ShiftRAG 的软正交目标可缓解 decoder-only 架构中的秩坍塌,在检索和问答任务上显著优于现有 SOTA 基线,同时保持骨干模型的基础能力。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. AGI Hunt
    ShiftRAG 用软令牌直传检索信号,突破 RAG 的文本瓶颈

    ShiftRAG 提出用连续软令牌将检索器的判别性对齐信号直接注入生成器,在单一 LLM 骨干中解耦判别式检索学习与自回归生成。其软正交目标可缓解 decoder-only 架构的 rank collapse,在检索与问答任务上均显著优于 SOTA 基线,同时保持骨干模型基础能力;论文与代码均已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。