论文提出MENTOR框架，用元认知自进化降低LLM领域隐性风险。
资讯摘要
论文指出当前安全措施难以覆盖领域隐性风险，构建了覆盖教育、金融、管理的3000条标注查询数据集，评测14个主流LLM发现平均越狱成功率达57.8%。为此论文提出MENTOR元认知自进化框架，通过视角转换与后果推理进行自我评估，将修正结果蒸馏为动态规则图并编译为激活层引导信号。作者报告其在各测试领域显著降低攻击成功率，优于现有安全对齐方法。
要点速读
- 论文构建3000条教育、金融、管理领域标注查询数据集，14个主流LLM平均越狱成功率为57.8%
- MENTOR以元认知自评估发现潜在错位，常规请求单次规则推理，残留不安全回答触发进化循环修正
- 修正结果蒸馏为动态规则图并编译为激活层引导信号；作者报告其降低攻击成功率并优于现有安全对齐方法
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。