AGI Hunt· julsimon·· 3 小时前AI 评分57
julsimon 逆向剖析 Apple 端侧 20B 模型，MoE 驻闪存仅占 2 GiB 内存
博主逆向剖析 Apple 端侧 20B 模型：MoE 驻闪存仅占 2GiB 内存
AI 导读
博主 julsimon 逆向剖析了每台支持 Apple Intelligence 的 Mac 内置的 200 亿参数语言模型，并从外部测量其文件、内存、功耗与 token 计数。
来源：AGI Hunt · agihunt.info
julsimon 逆向剖析 Apple 端侧 20B 模型，MoE 驻闪存仅占 2 GiB 内存