跳到正文
AGI Hunt· W61k3r·· 2 小时前AI 评分31

AMD Rust 推理引擎 LexiEngine 新增 Inkling 模型支持

AMD 向 Rust 推理引擎 LexiEngine 新增 Inkling 模型支持

AI 导读

面向 AMD 硬件的 Rust 推理引擎 LexiEngine 已支持 Inkling 模型,LexiSuite T18 测试镜像显示 Inkling-2-Mini 可通过 Vulkan 在其上运行。作者称当前速度尚可、带宽仍有余量,下一版本将在完成 mythos 审计与基准测试后实现大幅性能提升。

来源:AGI Hunt · agihunt.info