提示词措辞与语气扰动影响LLM事实可靠性

措辞与语气扰动会改变LLM的事实输出和内部计算。

资讯摘要

论文研究语义等价但措辞与语气不同的提示词如何影响LLM事实可靠性。作者用礼貌、随机及逐步升级的毒性措辞变体，在ARC-Easy、GSM8K和MMLU上评测七个模型，发现词汇扰动在多数模型中降低事实准确率并增加预测不确定性，毒性升高时准确率下降。归因图分析显示扰动放大了对扰动敏感的变体节点，且随毒性分数上升呈单调趋势。

要点速读

1. 论文在ARC-Easy、GSM8K、MMLU上评测七个LLM，提示词变体覆盖礼貌、随机和逐级毒性语气。
2. 作者报告词汇扰动在多数模型中降低事实准确率并提高预测不确定性，毒性越高准确率越低。
3. 归因图分析显示扰动放大了对扰动敏感的变体节点，其激活与影响随毒性分数上升呈单调趋势。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。