字节跳动发布 SepLRM：共享 KV 缓存重构推荐基础模型范式

字节跳动团队在 arXiv 发布 SepLRM 论文，提出由共享推荐基础模型（RFM）和多个独立优化的垂直模型（VM）组成的新范式。RFM 采用 encoder-decoder 架构，将与候选无关的共享 KV cache 导出给各 VM，使长用户历史只需编码一次，减少推荐阶段的重复计算成本。