AGI Hunt· Binary_orchid·· 2 小时前AI 评分70
SenseNova-U1.5-8B-MoT 在 M5 Ultra 本地实测,Q4KM 达 125 tok/s
SenseNova-U1.5-8B 本地实测:M5 Ultra 跑 125 tok/s,还能揪出账单 $1 错误
AI 导读
作者在 M5 Ultra Mac Studio 上使用 llama.cpp 实测 SenseNova-U1.5-8B-MoT,Q4KM 量化生成速度达到 125 tok/s。
来源:AGI Hunt · agihunt.info