跳到正文
热点事件持续更新

SenseNova-U1.5本地实测速度与视觉部署修复

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Reddit 用户 Binary_orchid 在 M5 Ultra Mac Studio 上用 llama.cpp 实测商汤 SenseNova-U1.5-8B-MoT,Q4KM 量化版生成速度达到 125 tok/s。该模型于10月21日合并进 llama.cpp,仅支持文图理解、文本输出,图像生成需另用 stable-diffusion.cpp。 作者发现 mradermacher 提供的量化版缺少 mmproj,无法使用视觉功能;自行转换时出现 KeyError,修改 conversion/sensenovau1.py 后可修复。其对菜单、白板及中英文标牌的识别测试耗时约4至10秒,但测试图片由同一模型生成,识别效果仍需谨慎看待。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. AGI Hunt
    SenseNova-U1.5-8B-MoT 在 M5 Ultra 本地实测,Q4KM 达 125 tok/s

    作者在 M5 Ultra Mac Studio 上使用 llama.cpp 实测 SenseNova-U1.5-8B-MoT,Q4KM 量化生成速度达到 125 tok/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。