Heirloom 无需标注即可把手机个人适配器迁移到新基座模型。
资讯摘要
论文提出 Heirloom,用于在手机端把个人适配器迁移到新基座模型,且无需保留用户标注历史。方法以旧个人模型为教师,在存储的无标注输入、厂商提示或新基座生成的提示上收集预测,再卸载旧基座、训练新适配器匹配这些预测,内存中始终只保留一个基座模型。作者报告在两次模型家族的三个代际升级、一次保持架构的刷新和三项个性化任务上评估;电影标注任务中,从存储输入迁移保持升级前准确率,与有标注重训相差最多 1.7 个百分点;在手机 NPU 上,4B 升级的定长迁移耗时 38 分钟、端到端耗电 20%。
要点速读
- Heirloom 以旧个人模型为教师,用无标注输入上的预测训练新基座适配器,无需用户标注历史。
- 迁移时先卸载旧基座再训练新适配器,保证同一时间只有一个基座模型驻留内存。
- 作者报告电影标注任务中存储输入迁移与有标注重训准确率相差最多 1.7 个百分点;4B 升级在手机 NPU 上迁移耗时 38 分钟、耗电 20%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。