跳到正文
AGI Hunt· rasbt·· 1 小时前AI 评分57

Raschka 统计:开源 LLM 已无纯全注意力模型,混合架构成主流

AI 导读

Sebastian Raschka 的开源 LLM 年度盘点显示,纯全注意力模型已从开源模型中消失,混合架构成为主流。2025 年约 59% 的模型全程使用全注意力、34% 为混合架构;2026 年 1–8 月全注意力降至 27%,混合架构升至 65%;2026 年 8 月末至今混合架构与零全注意力模型各占 52% 和 48%。

来源:AGI Hunt · agihunt.info