AGI Hunt· xiaohu·· 3 小时前AI 评分61
rockmatrix-ai 开源 EdgeRock 多模态推理项目
EdgeRock 开源:恒定显存多模态推理适配边缘设备
AI 导读
rockmatrix-ai 以 Apache-2.0 许可开源 EdgeRock 项目,采用定长内存推理架构,使请求显存恒定约 97.76 MiB,其中 KV 缓存约 72 MiB。作者称其历史压缩复杂度为 O(1)、生成复杂度为 O(N),EdgeRock-4B 的 AIME 跑分为 82.9,且适用于机器狗、无人车等内存受限的边缘硬件。
来源:AGI Hunt · agihunt.info