全双工语音模型长会话会退化,LoRA 适配与 TRC 可缓解。
资讯摘要
论文针对端到端全双工语音对话模型在长时间会话中的行为演变展开研究,提出闭环评估框架,并在多个公开模型上发现响应性、语音内容质量与音色一致性随时间退化。作者提出基于自蒸馏的轻量 LoRA 适配训练框架,以及双分辨率上下文(TRC)架构,将近期交互完整保留、较久历史压缩为键值表示。在三种不同架构模型上,LoRA 适配缓解了十分钟会话内的性能退化,TRC 进一步延长增益并将 KV-cache 增长降低 90% 以上。
要点速读
- 论文提出闭环长会话稳定性评估框架,在多个公开全双工语音模型上观察到响应性、内容质量与音色一致性随时间退化。
- 作者提出自蒸馏驱动的轻量 LoRA 适配训练框架,以少量额外训练提升长会话稳定性。
- TRC 架构压缩较久交互历史为键值表示,在三种架构模型上将 KV-cache 增长降低 90% 以上。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。