提示失败会低估冻结音频模型可验证的时间信息
资讯摘要
论文研究冻结的大型音频语言模型（LALM）为何难以定位音乐片段中的具体时刻。作者用 Slakh2100 分轨激活构建配对查询探针，将状态查询与变化查询绑定到同一时间跨度，并改变前置音频长度。结果显示，状态查询在无上下文时已高于基线，变化查询在多数短片段模型中随前置上下文改善，而 30 秒填充编码器无明显恢复；提示与注意力方式几乎未体现这些差异。
要点速读
- 论文用 Slakh2100 分轨激活构建配对查询探针，对同一时间跨度分别使用状态查询和变化查询。
- 状态查询在无上下文时得分高于基线；变化查询在多数短片段模型中随前置上下文提升。
- 30 秒填充编码器未出现类似恢复，提示与注意力方式几乎未暴露这些能力。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。