AGI Hunt· francoisfleuret·· 5 小时前AI 评分29
FlashAttention 4 在 NVIDIA GB300 上速度「uncanny」，优化空间所剩无几
FlashAttention 4 在 GB300 上快到「离谱」，做优化的都头疼
AI 导读
Meta 前研究科学家 François Fleuret 评价 FlashAttention 4 在 NVIDIA GB300 上的速度「uncanny」。他认为，对以追求更快性能为业的研究者而言，这种速度甚至令人恼火，因为剩余优化空间已经不多。
来源：AGI Hunt · agihunt.info