AGI Hunt· FudgeEducational2038·· 1 小时前AI 评分33
MoE 小模型崛起:发帖人预言云端 AI 依赖将被削弱
MoE 小模型崛起,发帖人预言云端 AI 依赖将被削弱
AI 导读
一名 Reddit 发帖人认为,MoE 小模型正削弱普通人对云端 AI 的依赖,更多模型将转向在消费级硬件本地运行。其在配备 64GB 内存和 8GB 显卡的 6 年前 CAD 工作本上运行 QFN 可达 20 tokens/s,并称其智能水平超越 27B 级 dense 模型。
来源:AGI Hunt · agihunt.info