AGI Hunt· W61k3r·· 2 小时前AI 评分31
AMD Rust 推理引擎 LexiEngine 新增 Inkling 模型支持
AMD 向 Rust 推理引擎 LexiEngine 新增 Inkling 模型支持
AI 导读
面向 AMD 硬件的 Rust 推理引擎 LexiEngine 已支持 Inkling 模型,LexiSuite T18 测试镜像显示 Inkling-2-Mini 可通过 Vulkan 在其上运行。作者称当前速度尚可、带宽仍有余量,下一版本将在完成 mythos 审计与基准测试后实现大幅性能提升。
来源:AGI Hunt · agihunt.info