单卡 RTX 3090 同时运行 4 个编码 AI 智能体，自研 CUDA 引擎达 290 tok/s

单张 RTX 3090 通过自研 CUDA 引擎运行 Qwen3.8-27B，同时服务 4 个编码 AI 智能体，总吞吐约 290 tok/s。实机演示显示，该吞吐达到 llama-server --parallel 的 3-4 倍，属于本地推理优化与并发服务的实机成果。