回到最新动态
论文更新 / THE SIGNAL

NodeSyn:面向AI评估的社会对齐合成数据

NodeSynth: Socially Aligned Synthetic Data for AI Evaluation

重要性 5.5 AI 辅助整理

NodeSyn用社会语境合成查询,失败率高于人工查询。

资讯摘要

论文提出NodeSyn方法,将微调后的分类生成器(TaG)与可信公开来源及提取的敏感属性结合,生成反映真实社会语境与细微危害的查询。作者在医疗建议与自残两个领域用人工验证的autoraters评测十个开放权重与专有LLM,称NodeSyn在其中8个模型上排名第一;其数据集诱发的失败率平均为通用合成基线的3.1倍、结构化合成基准的2.4倍、真实人工撰写查询的1.6倍。消融显示Level 3分类扩展在9/10模型上显著推高失败率。代码与数据集已开源。

要点速读

  1. NodeSyn将微调分类生成器TaG与可信公开来源、敏感属性结合,生成具社会技术语境的评估查询。
  2. 在医疗建议与自残两领域评测十个开放权重及专有LLM,NodeSyn在其中8个模型上排名第一。
  3. 作者报告其数据集失败率平均为通用合成基线的3.1倍、结构化合成基准的2.4倍、人工查询的1.6倍;代码与数据集已开源。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开