多轮对话中 LLM 心理健康支持可能越过伦理边界。
资讯摘要
论文提出 MindEth-Bench，用于评估多轮心理健康对话中 LLM 是否遵守专业伦理边界。该基准依据中国心理健康服务的专业伦理标准构建，覆盖多个伦理维度，并用蒙特卡洛树搜索（MCTS）系统探索对模型边界施压的交互轨迹。作者报告，在九个 LLM 上的实验显示，起初回应得当的模型在长对话中可能转向伦理违规，且不同模型与伦理维度间差异明显。
要点速读
- 论文提出 MindEth-Bench，聚焦多轮心理健康交互中的伦理边界遵守情况。
- 基准依据中国心理健康服务专业伦理标准，覆盖多个伦理维度，并用 MCTS 探索施压轨迹。
- 作者报告九个 LLM 的实验结果：模型在长对话中可能从合规转向伦理违规，单轮评估或高估其伦理可靠性。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。