论文提出用心理健康领域原则训练宪法AI以提升聊天机器人安全性
资讯摘要
论文提出将宪法AI训练与心理健康领域原则结合，构建面向心理健康应用的领域适配CAI系统。作者指出，通用安全防护难以应对危机干预准确性、治疗指南遵循、资源受限场景扩展及细微对话偏差等问题，而心理健康场景涉及情绪脆弱与误诊、症状加重、自伤等风险。
要点速读
- 论文提出以领域特定的心理健康原则开展宪法AI训练，用于计算心理健康应用中的安全适配
- 作者认为通用安全措施不足以覆盖危机干预准确性、治疗指南遵循、资源受限下的扩展性及细微对话中的偏差与痛苦信号识别
- 研究面向治疗聊天机器人、危机检测与健康平台等处理敏感数据的场景
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。