AGI Hunt· HankYeomans·· 3 小时前AI 评分56
HankYeomans 整理 GLM 5.3 Flash NVFP4 本地部署仓库,实测最高支持 1M 上下文
网友整理 GLM 5.3 Flash NVFP4 本地部署仓库,实测支持最高 1M 上下文
AI 导读
HankYeomans 从 Hugging Face 模型卡提取命令,整理出用于本地运行 GLM 5.3 Flash NVFP4 量化模型 nvidia/GLM-5.3-Flash-FP4-Local 的仓库,面向 GPU 显存充足的用户。实测该模型最高支持 1M 上下文,但作者建议使用 512K 效果更稳;仓库还包含仍在完善中的 TensorFold 部分。
来源:AGI Hunt · agihunt.info