跳到正文
AGI Hunt· kalomaze·· 1 小时前AI 评分25

kalomaze:爱加 cross attention 往往是在逃避数据设计

kalomaze:爱加 cross attention 的人往往是在逃避数据设计

AI 导读

独立研究员 kalomaze 认为,cross attention 常被用于弥补数据设计不足,架构选择上的迭代功夫远多于数据质量投入。这一观点引发了不少关于架构创新与数据设计孰轻孰重的讨论。

来源:AGI Hunt · agihunt.info