跳到正文
AGI Hunt· Old_Ad_6033·· 3 小时前AI 评分64

Qwen 27B INT4 量化在长上下文 Agent 负载中的循环风险实测

两周日志实测:Qwen 27B 量化越狠思考死循环越多,成功率 92%→78%

AI 导读

Old_Ad_6033 在重度 Agent 负载下实测 Qwen 27B 的 INT8 与 AWQ INT4 量化,发现量化更激进时死循环增加且轮次成功率下降。

来源:AGI Hunt · agihunt.info