跳到正文
AGI Hunt· JeremyCMorgan·· 3 小时前AI 评分60

L-Forster 开源本地编码 Agent 引擎 OpenJet,Qwen3.8-27B 推理速度达 llama.cpp 的 1.9 倍

OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍

AI 导读

L-Forster 开源了面向本地模型的离线编码 Agent 引擎 OpenJet。据其报告,在单张 RTX 3090 上运行 Qwen3.8 27B 代码任务时,OpenJet 可达 140 tokens/s,llama.cpp 为 73 tokens/s,速度提升约 1.9 倍。

来源:AGI Hunt · agihunt.info