AGI Hunt· Broad_Breakfast_1172·· 3 小时前AI 评分69
单张 A40 跑全栈语音 Agent,首音频延迟中位数 1.28 秒并附调优细节
单张 A40 跑全栈语音 Agent:首音频延迟中位数 1.28 秒,附调优细节
AI 导读
该实践在单张 A40 上运行全栈语音 Agent,首音频延迟中位数为 1.28 秒,并记录了 Gemma 空 thinking block、Qwen chat template 限制和 WebSocket 客户端丢失音频等问题。系统支持句中打断、时钟工具、依据事实手册回答并承认未知,以及安静场合改用打字。公开 demo 可在线体验 5 分钟,不留语音,文本保留 30 天。
来源:AGI Hunt · agihunt.info