跳到正文
AGI Hunt· nvidia·· 2 小时前AI 评分33

NVIDIA 提出 CPU-ARC:复用推理缓存,调用成本降至 1/16~1/291

NVIDIA 提出 CPU-ARC:推理缓存复用,调用成本降至 1/16~1/291

AI 导读

NVIDIA 提出 CPU-ARC,在 CPU 上构建可执行的 agentic reasoning caches,复用 LLM 推理轨迹中的既有解法。论文称,该方法在多个困难数学与科学任务上表现与前沿 LLM 相当,并具备可解释、可持续训练和抗输入扰动能力,调用成本比源模型便宜 16–291 倍。

来源:AGI Hunt · agihunt.info