Kongzi 用知识图谱事实奖励提升历史问答评分
资讯摘要
论文提出历史理解与推理模型 Kongzi，结合历史语料继续预训练、监督微调和事实增强强化学习，其事实性奖励通过知识图谱相似度比对生成回答与史料中的实体和关系。作者在 0.5B 与 7B 模型上评测历史问答、反事实推理及 CMMLU-Chinese-History：三位 LLM 评审均给 Kongzi-7B 最高历史准确性评分，强化学习提升了两种规模模型的平均得分与 CMMLU 准确率，但 Kongzi-7B 在该基准上仍低于最强基线。
要点速读
- Kongzi 采用历史语料继续预训练、监督微调与事实增强强化学习三阶段方案。
- 事实性奖励以知识图谱相似度比较生成回答与史料中的实体和关系。
- 三位 LLM 评审给 Kongzi-7B 最高历史准确性评分，但 CMMLU-Chinese-History 上仍低于最强基线。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/25 08:00:13（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。