Modal与Sakana AI优化Namazu API推理
热点事件持续更新
Modal与Sakana AI优化Namazu API推理
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Modal宣布与Sakana AI合作优化Sakana Namazu API，目标是提升MoE模型推理性能。Modal称，方案将针对拥有2.3万余名专家的模型进行选择性NVFP4量化，利用DFlash草稿模型将接受率提升25%，并引入前缀KV路由和serverless自动扩缩容。
AI 根据报道生成 · 1 小时前更新
最新进展10月24日 04:10
Modal 联手 Sakana AI 优化 Namazu API：NVFP4 量化、DFlash 与 KV 路由报道时间线
沿着报道，了解事件的不同侧面。
10月24日
- AGI HuntModal 联手 Sakana AI 优化 Namazu API：NVFP4 量化、DFlash 与 KV 路由
Modal 与 Sakana AI 合作优化 Sakana Namazu API，将推理性能优化至内核级。方案包括针对拥有 2.3 万+专家的 MoE 模型进行选择性 NVFP4 量化，以 DFlash 草稿模型将接受率提升 25%，并引入自研前缀 KV 路由与 serverless 自动扩缩容。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。