回到最新动态
论文更新 / THE SIGNAL

GFlowPO:用生成流网络优化语言模型提示词

GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer

重要性 4.5 AI 辅助整理

GFlowPO 用离策略 GFlowNet 与动态记忆更新提升提示搜索的样本效率。

资讯摘要

论文提出 GFlowPO,将提示词搜索视为受元提示参考语言模型先验约束的隐提示后验推断问题。第一步用离策略 GFlowNet 目标微调轻量提示语言模型,并借助回放策略复用过往提示评估以提升样本效率;第二步引入免训练的动态记忆更新(DMU),把回放缓冲中的多样提示与优先队列中的高分提示注入元提示。作者报告在少样本文本分类、指令归纳基准和问答任务上,GFlowPO 持续优于近期离散提示优化基线。

要点速读

  1. 论文将提示优化建模为隐提示的后验推断,并用元提示参考语言模型作为先验。
  2. 第一步以离策略 GFlowNet 目标微调轻量提示模型,回放策略复用历史评估结果。
  3. 第二步提出免训练的 Dynamic Memory Update,用回放缓冲与优先队列更新元提示;作者报告在少样本分类、指令归纳和问答上优于基线。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开