回到最新动态
交叉发布 / THE SIGNAL

Safin-1.5:安全原生架构与可验证推理

Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement

重要性 5.5 AI 辅助整理

论文提出经递归安全改进训练的 Safin-1.5 模型

资讯摘要

论文提出 Safin-1.5,一种基于安全原生架构、经递归安全改进训练的模型,并配有推理时形式化推理框架。方法包含三部分:结合持久安全状态与危险知识解耦的安全架构;发现—评估—修复的递归安全改进循环;以及结合符号推理与验证的形式化推理框架。作者报告其在安全与推理性能上优于前沿模型。

要点速读

  1. 安全架构将持久安全状态与危险知识解耦结合,把目标危险知识迁入可移除专家,以便在尽量不影响通用能力的前提下移除。
  2. 递归安全改进建立发现—评估—修复循环,仅在提升安全且保持通用能力、限制过度拒答时接受更新。
  3. 形式化推理框架结合语言理解与符号推理验证,通过证明义务引导的语义桥接补全形式表示中缺失的关系。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开