跳到正文
AGI Hunt· max_paperclips·· 10 小时前AI 评分27

博主判断 Transformer 架构将长期主导,新突破只是渐进改良

AI 导读

一位博主押注 Transformer 架构将作为一类模型长期存在,未来突破主要是渐进式改良,而非彻底转向全新架构。他认为,即使纯 RNN 路线的 LLM 最终达到 GPT-6 级别,也会因效率过低而缺乏现实吸引力;混合加入 RNN 类组件后,本质上仍属于 Transformer。

来源:AGI Hunt · agihunt.info