DCOCO发布，推测解码最高提速6.6倍

royeisenstadt发布推测解码方法DCOCO，试图在保留并行草稿生成速度的同时，恢复预测token之间丢失的上下文信息；其称，相比普通解码，最高可实现6.6倍加速。 DCOCO的全称为Contextual Correction of Parallel Drafts，核心针对并行草稿生成中token上下文关联减弱的问题，通过上下文校正提升生成效率。该加速倍数是发布者给出的测试结果，目前报道未提供适用模型、任务及测试条件。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。