HIDRA 用分层双路由注意力缓解无回放终身模仿学习中的路由干扰。
资讯摘要
论文提出 HIDRA,一种用于无回放、单遍终身模仿学习的分层双注意力路由框架,将指令级专家检索与上下文相关细化解耦,并用键级几何正则化约束任务内对齐与任务间分离,以缓解表示漂移下的路由干扰。作者在 LIBERO 多个基准(含异构任务序列与改写指令变体)上报告其优于无回放与有回放基线,AUC 与前向迁移提升且遗忘较低。代码已开源。
要点速读
- HIDRA 通过分层双注意力机制,将指令级专家检索与上下文相关细化分开处理。
- 引入键级几何正则化,在任务内对齐、任务间分离,以稳定表示漂移下的路由。
- 作者报告在 LIBERO 多个套件上优于无回放与有回放基线,高干扰和语言变化下增益更明显。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。