Cerebras 在 WSE-3T 晶圆上部署万亿参数 AI 模型

Cerebras 讲解如何将万亿参数模型拆分部署到多块 WSE-3T 晶圆，并以开源 Kimi K3（约 3T 参数）为例实现 1000-2000+ tokens per second 推理。按 4-bit 权重量化、8-bit KV cache 和 256k 假设请求长度计算，其 69 个线性注意力层与 24 个密集层共需 59 块晶圆，并通过流水线并行处理微批次。