跳到正文
AGI Hunt· IgorCarron·· 3 小时前AI 评分42

前沿 AI 实验室为何掀起自研推理芯片潮:四大原因拆解

自研推理芯片没那么难:四大原因拆解前沿实验室造芯潮

AI 导读

Patrick Toulme 认为,前沿 AI 实验室自研定制推理芯片并不难,原因包括瞄准推理而非训练、仅支持 Transformer 架构并采用大尺寸 MXU 矩阵乘法单元,以及由 RL 训练的 coding agents 直接在接近 ISA 的层面编写 kernel。他认为通用芯片开发难度远高于此,且软件成本本质上就是 token 成本,因此自研推理芯片项目将持续增加。

来源:AGI Hunt · agihunt.info