论文提出马尔可夫生成链分析LLM迭代推理

论文用马尔可夫链刻画LLM反复处理文本的演化规律

资讯摘要

该论文将大模型反复处理文本的迭代推理过程定义为马尔可夫生成链，每步仅以固定提示模板和上一步输出为输入。在迭代改写与往返翻译实验中，输出或收敛到小型循环集合，或在有限范围内持续生成新句子。作者通过句级马尔可夫链建模与模拟数据分析指出，温度参数和初始句子等因素会使迭代过程增加或降低多样性。

要点速读

1. 论文将每步仅依赖固定提示模板与上一步输出的迭代推理定义为马尔可夫生成链
2. 迭代改写和往返翻译实验中，输出会收敛到小型循环集合，或在有限范围内持续产生新句子
3. 句级马尔可夫链建模与模拟分析显示，温度参数和初始输入句子会影响多样性是增加还是降低

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。