AGI Hunt· SubtleGradient·· 2 小时前AI 评分19
网友调侃大模型 MoE 架构趋势,造出“MoMoe”套娃梗
当所有大模型都变 MoE,网友造出新梗:MoMoe 套娃专家
AI 导读
网友 SubtleGradient 将多个 MoE 再混合一次,戏称“Mixture of Mixtures of Experts”,并为这一架构概念取名 MoMoe。这一调侃源于当前前沿大模型几乎普遍采用 MoE(专家混合)架构的行业现状,MoMoe 则是架构圈的谐音梗延伸。
来源:AGI Hunt · agihunt.info