CUHKSZ 发布 Speculative Listening，加速全双工语音模型并降低响应延迟

CUHKSZ 团队发布免训练、无损的 Speculative Listening 投机解码框架，加速分块交织的全双工语音语言模型并降低响应延迟。框架利用约 95% 音频块为静音的观察，提前起草并验证即将到来的音频块，真实音频到达后再通过假设池执行 prefill 和验证，仅修正少数首个 token，同时降低语音响应与工具调用延迟。