SenseNova-U1.5本地实测速度与视觉部署修复
热点事件持续更新
SenseNova-U1.5本地实测速度与视觉部署修复
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Reddit 用户 Binary_orchid 在 M5 Ultra Mac Studio 上用 llama.cpp 实测商汤 SenseNova-U1.5-8B-MoT,Q4KM 量化版生成速度达到 125 tok/s。该模型于10月21日合并进 llama.cpp,仅支持文图理解、文本输出,图像生成需另用 stable-diffusion.cpp。 作者发现 mradermacher 提供的量化版缺少 mmproj,无法使用视觉功能;自行转换时出现 KeyError,修改 conversion/sensenovau1.py 后可修复。其对菜单、白板及中英文标牌的识别测试耗时约4至10秒,但测试图片由同一模型生成,识别效果仍需谨慎看待。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 04:26
SenseNova-U1.5-8B-MoT 在 M5 Ultra 本地实测,Q4KM 达 125 tok/s报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- AGI HuntSenseNova-U1.5-8B-MoT 在 M5 Ultra 本地实测,Q4KM 达 125 tok/s
作者在 M5 Ultra Mac Studio 上使用 llama.cpp 实测 SenseNova-U1.5-8B-MoT,Q4KM 量化生成速度达到 125 tok/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。