回到最新动态
研究论文 / THE SIGNAL

HARP-LoRA:用表头层级条件化低秩投影

HARP-LoRA: Hierarchy-Conditioned Rank Projection for Low-Rank Adaptation in Scientific Table Understanding

重要性 5.2 AI 辅助整理

HARP-LoRA 用表头层级条件化低秩投影,提升科学表格抽取。

资讯摘要

论文提出 HARP-LoRA,一种面向科学表格理解的层级条件化低秩适配方法。它根据每个数据 token 所在行、列表头的层级结构,构造 token 专属的内在表示,并用这些表示对低秩下投影做条件化,同时保持预训练模型和随机投影张量冻结。作者在 950 张人工标注的药代动力学表格及 WikiTableQuestions 上,用 Llama 3.2 3B、Llama 3.1 8B 和 Gemma 3 27B 进行评测。

要点速读

  1. HARP-LoRA 扩展 projected LoRA,用行列表头层级生成 token 专属表示来条件化低秩下投影,预训练模型与随机投影张量保持冻结。
  2. 在 Llama 3.1 8B 上,作者报告 PK F1 为 57.64%、WikiTQ 准确率为 53.15%,分别比 LoRA 高 1.42 和 6.56 个百分点。
  3. 在 Gemma 3 27B 上,作者报告最佳 PK F1 为 70.63%、WikiTQ 准确率为 56.87%;可训练参数为 172K、197K、547K,少于 LoRA 和 TableLoRA。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开