跳到正文
AGI Hunt· burny_tech·· 7 小时前AI 评分29

Reddit 高赞讨论:ViT 能表达任意卷积层,但小设备上 CNN 先验仍不可替代

AI 导读

Reddit 高赞讨论指出,注意力头足够多的 ViT 可表达任意卷积层,而小型边缘设备上的小 ViT 仍难以替代 CNN 的内置先验。讨论认为,数据充足时 CNN 提前固定的先验未必正确,ViT 可借助海量数据训练的大模型省去先验设计。

来源:AGI Hunt · agihunt.info