跳到正文
AGI Hunt· victormustar·· 4 小时前AI 评分63

LFM3-Omni-2B 实现浏览器全本地运行,速度约 280 tok/s

首个全本地浏览器 Omni 模型:LFM3-Omni-2B 达 280 tok/s

AI 导读

Xenova 宣布 LFM3-Omni-2B 可在浏览器中 100% 本地运行,端到端无需单独的 ASR 或 TTS 模型。该模型借助自定义 WebGPU kernel,在 M4 Max 上达到约 280 tok/s,支持视觉、音频和文本输入并交错输出文本与音频 token,首 token 延迟为 90ms,首段音频延迟为 140ms。

来源:AGI Hunt · agihunt.info