回到最新动态
论文更新 / THE SIGNAL

Lychee-FD:分层声学-语义建模缓解全双工SLM模态干扰

Hierarchical Acoustic-Semantic Modeling: Modality Separation and Semantic Coherence for Full-Duplex SLMs

重要性 5.5 AI 辅助整理

论文提出Lychee-FD,用分层参数分离缓解全双工SLM模态干扰。

资讯摘要

论文针对全双工语音语言模型(SLM)中的模态干扰问题,通过分析优化动态指出,声学与语义建模被迫共享深层参数空间时会产生梯度冲突,导致知识退化与语义完整性受损。作者提出Lychee-FD原生端到端框架,采用分层参数分离策略在深层解耦冲突模态,并通过语义对齐通道保持跨模态一致性。论文报告在Spoken QA上提升7.4%,在FullDuplexBench 1.5上提升28.5%,且未牺牲推理效率。

要点速读

  1. 论文将全双工SLM性能退化归因于声学与语义建模在共享深层参数时的梯度冲突。
  2. Lychee-FD采用分层参数分离解耦冲突模态,并以语义对齐通道维持跨模态一致性。
  3. 作者报告Spoken QA提升7.4%、FullDuplexBench 1.5提升28.5%,推理效率未受影响。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开