AGI Hunt· Public_Umpire_1099·· 3 小时前AI 评分57
RidgeFill 论文提出免训练跳算上层预填充方法，64K 请求延迟从 82.6s 降至 47.5s
RidgeFill：免训练跳算上层预填充，TTFT 提速至 1.6 倍、64K 请求 82.6s→47.5s
AI 导读
RidgeFill 提出一种完全免训练的 prefill 近似方法，用一次闭式拟合的岭回归预测后续各层输入并写入缓存，以缩短 TTFT。
来源：AGI Hunt · agihunt.info