AWS 科普投机解码：差猜测器也不改变模型输出

AWS 的 Antje Barth 通过带代码的 GitHub 文章讲解投机解码：小模型负责猜测 token，大模型进行校验，即使猜错率高达 30% 也不会改变大模型输出。其核心在于保留猜测比例等于两个模型概率分布的交集，并通过减法操作保证最终答案与原始大模型完全一致。