跳到正文
AGI Hunt· jiayq·· 3 小时前AI 评分40

DeepSeek 推理优化的 AI 智能体循环形似无梯度 SGD:234 次实验将耗时从 3.7ms 压至 2.32ms

Agent 循环形似无梯度 SGD:234 次实验把推理耗时从 3.7ms 压到 2.32ms

AI 导读

AI 智能体通过循环实验优化 DeepSeek 推理性能,每步耗时从 3.7ms 降至 2.32ms,低于人工预估的 2.5ms 下限,基线 vLLM TP8 为 5.654ms。234 次实验中,实验接受率最终稳定在约 46%(108/234);该过程被类比为“无梯度的随机梯度下降”,收益呈指数衰减。

来源:AGI Hunt · agihunt.info