跳到正文
AGI Hunt· ngxson·· 1 小时前AI 评分62

llama.cpp 支持 /v1/realtime,可运行本地实时语音对话

llama.cpp 已支持 /v1/realtime,可本地跑语音对话

AI 导读

llama.cpp 的 server 已支持 OpenAI 风格的 /v1/realtime,可配合 LFM3-Omni 等全模态模型实现本地 speech-to-speech 实时语音对话。该接口支持 realtime 对话和 transcription 逐段转写,音频输入采用 PCM16 单声道,服务端可自动重采样,并通过 session.update 调整参数。

来源:AGI Hunt · agihunt.info