跳到正文
AGI Hunt· bingxu_·· 2 小时前AI 评分48

Claude 两天重写 vLLM:Rust 推理引擎可运行但面临维护难题

Claude 花两天重写 vLLM:代码能跑但已成维护噩梦

AI 导读

Claude 连续两天重新实现 vLLM、Megatron-core 和 ScalarLM,生成的 Rust 推理引擎虽可运行,却被审查者批评为难以维护。问题包括 ENV 变量散乱、重复实现 malloc、内核文件无序及多种 matmul 实现并存。

来源:AGI Hunt · agihunt.info