ChipChat关键词检索结果

ChipChat:MLX 中的低延迟级联对话代理

ChipChat: Low-Latency Cascaded Conversational Agent in MLX

大语言模型 (LLM) 的出现改变了口语对话系统,但实时设备语音代理的最佳架构仍然是一个悬而未决的问题。虽然端到端方法在理论上具有优势,但级联系统(CS)在语言理解任务中继续优于它们,尽管受到顺序处理延迟的限制。在这项工作中,我们介绍了 ChipChat,这是一种新颖的低延迟 CS,它通过架构创新和流优化克服了传统瓶颈。我们的系统集成了流式(a)会话语音......