AGI Hunt· teortaxesTex·· 3 小时前AI 评分40
研究员观点:小于 1T 参数模型已达人类水平,未显示模型「欠参数化」
研究员观点:小于 1T 参数模型已达人类水平,说明模型并未「欠参数化」
AI 导读
teortaxesTex 认为,参数量不到 1T 的模型已展现人类水平甚至超人类表现,说明模型在最关键维度上并未「欠参数化」。他指出,若提升人类样本效率必须依赖占据数百节点的模型将是坏消息,同时不认同人类拥有约 100T 个有效参数,认为突触具有高度冗余。
来源:AGI Hunt · agihunt.info