Reddit 讨论：你在用投机解码加速 LLM 推理吗？

Reddit 上一则帖子发起讨论，询问用户是否在实际场景中使用投机解码来加速 LLM 推理。发帖人说明，该技术由轻量小模型充当草稿模型并配合大模型生成文本，在不改变输出质量的前提下提升生成速度，并邀请读者分享经验。