AGI Hunt· DeryaTR_·· 3 小时前AI 评分31
Richard Socher:Transformer 最大突破是彻底移除 RNN 层
Richard Socher:Transformer 最大突破不是注意力,而是砍掉 RNN 层
AI 导读
Recursive CEO Richard Socher 在访谈中提出,Transformer 论文的核心突破并非发明注意力机制,而是彻底移除了 RNN 层。他认为,人们低估 AI 的影响,是因为低估了已有想法组合空间的复杂度;超级智能将很快主导几乎所有科学新发现、发明与进步。
来源:AGI Hunt · agihunt.info