论文发布带轮次级临床标注的多轮心理健康基准与轻量护栏分类器。
资讯摘要
论文提出 MindGuard，一套面向多轮心理健康支持场景的轻量安全分类器（4B 与 8B 参数）。作者与临床心理学博士合作制定风险分类体系，区分自伤与他人伤害等可干预风险，并保留非危机的治疗性内容空间；同时发布由临床专家按轮次标注的 MindGuard-testset 多轮对话基准，以及用于评估安全分类器在对抗性多轮交互中影响的自动化红队框架。作者报告，该分类器在高召回工作点降低误报，与临床医生语言模型配合时攻击成功率与有害互动率低于通用防护措施。
要点速读
- 论文发布 MindGuard-testset，称其为首个带轮次级临床风险标注的多轮心理健康支持公开基准。
- MindGuard 分类器为 4B 和 8B 参数，作者报告其在高召回工作点降低误报。
- 作者同时开源模型、训练与人工评估数据及自动化红队（ART）框架。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。