Hacker News·· 3 小时前AI 评分41
Next-Concept Modeling:快速并行的由粗到细文本生成
Next-Concept Modeling: Fast, Parallel Coarse-to-Fine Text Generation
AI 导读
论文提出 Next-Concept Modeling(NCM),以多尺度残差 VQ-VAE 和 Transformer 实现由粗到细的并行文本生成。NCM 在 LM1B 上取得更优的生成困惑度并快 $21\times$,在 OpenWebText 上快 $10\times$,在 XSum 上以 $31\times$ 的速度匹配最强 DLM 的 ROUGE-L。
来源:Hacker News · arxiv.org