跳到正文
热点事件持续更新

llama.cpp支持本地实时语音对话

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

llama.cpp 的 server 已支持 OpenAI 风格 /v1/realtime 接口,结合 LFM3-Omni 等全模态模型,可在本地运行 speech-to-speech 实时语音对话,无需调用 OpenAI API。 该接口提供 realtime 对话和 transcription 逐段转写两种会话类型。音频输入需采用 PCM16 单声道格式,服务端可自动重采样;开发者还可通过 session.update 调整会话参数。ngxson 介绍了利用这一接口搭建本地实时语音助手的方法。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt
    llama.cpp 支持 /v1/realtime,可运行本地实时语音对话

    llama.cpp 的 server 已支持 OpenAI 风格的 /v1/realtime,可配合 LFM3-Omni 等全模态模型实现本地 speech-to-speech 实时语音对话。该接口支持 realtime 对话和 transcription 逐段转写,音频输入采用 PCM16 单声道,服务端可自动重采样,并通过 session.update 调整参数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。