跳到正文
AGI Hunt· kalomaze·· 3 小时前AI 评分20

kalomaze:主张去 attention 的前提本身就不成立

kalomaze:主张去 attention 的前提本身就不成立

AI 导读

kalomaze 继续反驳“必须移除 attention 才能受益”的观点,认为这一前提比所谓颠覆性改进本身更罕见。即使出现架构跃迁,attention 也可能只是搭便车,并非必须被抛弃。

来源:AGI Hunt · agihunt.info