跳到正文
AGI Hunt· andrew_n_carr·· 1 小时前AI 评分25

Muse Ember 实测生成速度达到 400 tokens/秒

Muse Ember 实测跑到 400 tokens/秒,速度惊人

AI 导读

Andrew Carr 称今天在 Muse Ember 上实测获得 400 tokens/秒的生成速度。该分享未披露硬件环境和更多细节,主要为一次快速体验记录,但速度数字对关注推理性能的人具有参考价值。

来源:AGI Hunt · agihunt.info