联合发布Lafa 8B流语言模型
热点事件持续更新
联合发布Lafa 8B流语言模型
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
UC Berkeley、Amazon、KAIST与CMU联合团队发布Lafa(Large flow language model),将连续流语言模型扩展至80亿参数。Lafa采用分块流模型,前缀使用因果注意力、块内进行双向异步流计算,并结合自推测解码;团队称,在生成质量追平自回归模型的同时,吞吐量最高提升2.54倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 11:49
Lafa 流语言模型达 8B 规模,吞吐量提升 2.5 倍报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- AGI HuntLafa 流语言模型达 8B 规模,吞吐量提升 2.5 倍
UC Berkeley、Amazon、KAIST 与 CMU 联合发布 Lafa(Large flow language model),将连续流语言模型扩展至 8B 参数规模。Lafa 采用分块流模型,前缀使用因果注意力、块内进行双向异步流计算,并结合自推测解码,在追平自回归模型生成质量的同时,实现最高 2.54 倍吞吐量提升。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。